В Атырау +21.5 
Американский блогер Кевин Басс призвал Конгресс США расследовать финансовые связи вокруг разработчика искусственного интеллекта Anthropic. В своем посте он утверждает, что компания якобы сформировала целую экосистему организаций, заинтересованных одновременно в росте Anthropic и в усилении регулирования искусственного интеллекта.
В центре его претензий оказалась организация METR, занимающаяся оценкой возможностей и рисков продвинутых ИИ-моделей. Басс обращает внимание, что глава Anthropic Дарио Амодеи ранее называл независимых сторонних оценщиков одним из элементов контроля рисков ИИ и упоминал METR как возможного участника такого процесса.
По версии блогера, проблема заключается в финансовых связях между организациями, поддерживающими METR, и капиталом Anthropic.
Басс утверждает, что значительная доля активов Good Ventures Foundation связана с акциями Anthropic, переданными сооснователем Asana Дастином Московицем. По его подсчетам, стоимость этих активов выросла примерно с $500 млн до более чем $7,7 млрд за 16 месяцев.
Именно на этом Басс строит свой главный тезис: организации, финансирующие исследования безопасности ИИ, могут, по его мнению, иметь косвенный финансовый интерес в дальнейшем росте Anthropic.
«Третьесторонний оценщик на самом деле не является третьей стороной», — пишет он, утверждая, что в такой системе независимость организаций, оценивающих риски моделей Anthropic, вызывает вопросы.
При этом речь в публикации идет об интерпретации финансовых связей самим Бассом. В представленном посте не приводятся доказательства того, что Anthropic напрямую контролирует решения METR или других упомянутых организаций.
Отдельное внимание блогер уделил Tarbell Center и другим структурам, работающим с темой рисков искусственного интеллекта. По его версии, одни и те же источники финансирования одновременно поддерживают организации, предупреждающие об опасности ИИ, и структуры, предлагающие механизмы его регулирования.
Басс считает, что такая модель может создавать замкнутый круг: чем быстрее растет Anthropic, тем больше средств получает связанная с вопросами безопасности ИИ экосистема, тем громче звучат предупреждения об угрозах искусственного интеллекта и тем сильнее становится запрос на регулирование.
Он называет это «самоусиливающейся петлей обратной связи» и утверждает, что она способна существовать независимо от того, насколько объективно растут сами риски технологий.
Более того, по мнению Басса, обратная зависимость также создает конфликт интересов: если Anthropic потеряет позиции или прекратит существование, часть организаций, финансируемых за счет капитала, связанного с компанией, также может лишиться ресурсов.
На этом основании блогер делает вывод, что некоторые организации по безопасности ИИ не могут считаться полностью независимыми при оценке моделей Anthropic.
В конце публикации Басс переводит дискуссию в геополитическую плоскость. Он утверждает, что чрезмерно пессимистичная риторика вокруг ИИ может замедлить развитие технологий в США и дать преимущество Китаю.
По его мнению, Anthropic и связанная с ней экосистема способны либо усилить общественную тревогу вокруг искусственного интеллекта, либо способствовать введению настолько жесткого регулирования, что американская ИИ-индустрия окажется в менее выгодном положении в глобальной конкуренции.
«Конгресс должен провести расследование», — резюмировал Басс.