Работавший в OpenAI и Anthropic Джейкоб Коксон считает, что крупные корпорации недостаточно относятся к возможным последствиям быстрого развития искусственного интеллекта.
Коксон опубликовал пост, в котором сообщил об уходе из компании Anthropic из-за несогласия с ее целями, сообщает Tengri Life. По его словам, Anthropic и OpenAI участвуют в гонке за создание саморазвивающегося сверхинтеллекта. Коксон считает, что в ближайшие годы могут появиться системы, способные выполнять задачи на уровне человека или превосходить его. В перспективе, по его мнению, такие модели смогут самостоятельно взламывать компьютерные сети, быстро менять целые отрасли и получать доступ к реальным ресурсам.
«Люди, которые занимаются разработкой ИИ, всерьез считают, что к концу этого десятилетия он может уничтожить всех нас. Это не маркетинговый ход. Более того, многие руководители и ведущие исследователи в публичных заявлениях стараются формулировать свои мысли так, чтобы звучать рассудительно, но в частных разговорах я слышу от тех же людей, что они испытывают страх. Ни один другой вид человеческой деятельности не представляет угрозы такого масштаба», – заявил эксперт.
По словам Коксона, в OpenAI многие сотрудники еще не до конца осознали масштаб возможных последствий, а в Anthropic риски хорошо понимают, но считают необходимым выиграть гонку первыми, поскольку не доверяют другим компаниям.
Он призвал американские лаборатории договориться о снижении темпов разработки. По мнению Коксона, отрасли необходим временный запрет на наращивание мощностей новых моделей масштабирования. Бывший разработчик попросил коллег не запускать обучение сверхинтеллекта до полного понимания процессов в его нейронах.
