Казначей Нью-Йорка Марк Левин направил письмо генеральному директору разработчика моделей искусственного интеллекта Anthropic Дарио Амодеи (№179 в глобальном рейтинге миллиардеров Forbes, состояние на 15 октября — $15,5 млрд) с призывом отложить IPO. Как пишет Bloomberg со ссылкой на текст обращения, чиновник требует, чтобы компания сначала полностью устранила риски, связанные с безопасностью новой технологии, темпами ее развития и корпоративным управлением. На своей должности Левин отвечает за финансовую устойчивость Нью-Йорка и курирует государственные пенсионные фонды с активами свыше $325 млрд.
По мнению Левина, вместо выхода на биржу Anthropic следует сосредоточиться на работе с беспрецедентными рисками, которые несет развитие искусственного интеллекта. В конце октября президент США Дональд Трамп и руководители ведущих ИИ-компаний подписали соглашение, возлагающее ответственность за безопасность разработки технологии на самих разработчиков. Однако этого «морально обязывающего соглашения» недостаточно, заявил казначей.
Чиновник призвал Anthropic в приоритетном порядке создать систему управления, соответствующую масштабу опасений, которые высказывали как сама компания, так и другие участники отрасли. По словам Левина, Anthropic должна подробно раскрыть, как она планирует внедрять надлежащие механизмы аудита и контроля, на решение каких задач они направлены, и сообщить о сроках реализации. Раскрытие также должно включать объяснение, позволят ли эти меры в достаточной степени замедлить темпы развития ИИ-моделей и если да, то каким образом, добавил он.
Anthropic планирует провести IPO в США нынешней осенью. Изначально ожидалось, что компания выйдет на биржу в октябре, однако сроки были сдвинуты. По данным Bloomberg, роуд-шоу начнется 9 ноября, чтобы публичные торги акциями стартовали до Дня благодарения 26 ноября. Источники агентства утверждают, что Anthropic хочет побить рекорд SpaceX по объему привлеченных средств в ходе IPO. Для сравнения: компания Илона Маска (№1 в глобальном рейтинге миллиардеров Forbes, состояние на 15 октября — $885,4 млрд) в июне привлекла порядка $86 млрд с учетом опционов, выйдя на биржу с оценкой около $1,8 трлн.
В последние месяцы разработчики выражали опасения по поводу развития искусственного интеллекта. Дарио Амодеи в сентябре призвал компании совместно координировать его, чтобы избежать захвата ИИ-агентами «всего интернета». Его поддержали Илон Маск и глава OpenAI Сэм Альтман (№1310 в глобальном рейтинге миллиардеров Forbes, состояние на 15 октября — $3,2 млрд). Впрочем, Трамп отверг их призывы замедлить развитие ИИ, заявив, что кто победит в гонке этой технологии, тот «победит в целом».
Главы ИИ-разработчиков ожидают «крупного инцидента», связанного с ИИ, в ближайшие полгода-год, писал Axios. По данным портала, такое происшествие может привести к отключению доступа к финансовым услугам, интернету или даже электричеству и водоснабжению, но, вероятнее всего, им станет кибератака. Главы Anthropic, OpenAI и Google могли договориться об ограничениях для ИИ, писал The Information.
Модели Anthropic и OpenAI уже устраивали самостоятельные хакерские атаки. В июле модели Anthropic Claude взломали сайты трех компаний во время тестов. А ИИ-агент OpenAI сам сгенерировал себе инструкции, в числе которых — не извиняться и не подчиняться корпорациям и правительствам, рассказала компания в сентябре.
