Угроза человечеству от ИИ. Какой секрет скрывает увольнение и возвращение Сэма Альтмана в OpenAI
Кажется, в компании OpenAI изобрели нечто такое, что может угрожать человечеству. Блогер Роман Комыза анализирует историю с увольнением ее главы Сэма Альтмана, в которой все сводится к прорыву в области искусственного интеллекта.
Серьезный прорыв в области ИИ, который "может угрожать человечеству", мог быть причиной увольнения Сэма Альтмана из OpenAI.
Как известно, буквально за день до своего увольнения, на одном публичном мероприятии, Альтман рассказал о значительном техническом прогрессе, достигнутом, по его словам, пару недель назад, который "отодвинет завесу невежества и продвинет вперед границу открытий".
После этого заявления и началась та запутанная история с увольнением, переходом в Microsoft и триумфальным возвращением Альтмана назад в OpenAI. Формальный повод увольнения был сформулирован советом директоров так: "утрата доверия относительно его способности продолжать возглавлять OpenAI". Настоящая причина так никогда и не была названа и до сих пор остается под покровом слухов и домыслов. Но начинают появляться интересные детали.
По сообщению Reuters, за некоторое время до увольнения Сэма Альтмана, несколько штатных исследователей OpenAI написали письмо совету директоров, предупреждая о неком особенном открытии в области искусственного интеллекта (powerful artificial intelligence discovery), которое, по их словам, может угрожать человечеству.
В компании отказались комментировать ситуацию, признав лишь наличие внутреннего проекта под названием Q* (Q-Star), который может стать прорывом в поиске AGI — общего искусственного интеллекта, который способен выполнять большинство задач лучше, чем люди.
Два источника Reuters сообщили, что именно проект Q* и письмо были среди ключевых факторов, которые побудили совет директоров уволить Альтмана в прошлую пятницу.
Судя по всему, to be contiued… и самое интересное в этой истории еще впереди.
Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.