"Уничтожит все живое": эксперт призвал бомбить лаборатории, создающие сверхумный ИИ
Ученые не смогут контролировать ИИ, если он станет умнее людей, поэтому Элиезер Юдковский призвал полностью запретить разработки в этой сфере.
Специалист в области искусственного интеллекта Элиезер Юдковский призвал уничтожать мощные дата-центры для обучения искусственного интеллекта. Он объяснил необходимость столь радикальных мер в колонке для издания Time.
29 марта специалисты, включая Илона Маска, в открытом письме призвали все лаборатории приостановить обучение мощных систем ИИ как минимум на 6 месяцев. Элиезер Юдковский отказался подписать его, поскольку счел такой шаг недостаточным, учитывая всю глубину угрозы со стороны "умных" машин.
Он предложил сделать запрет бессрочным для всех стран мира, в том числе для вооруженных сил, заключить международное соглашение, следить за использованием графических процессоров, а организации, обучающие ИИ вопреки мораторию, наказывать точечными бомбардировками.
"Если разведка сообщает, что страна, не входящая в соглашение, строит кластер ГПУ, бойтесь не столько перестрелки между странами, сколько нарушения моратория. Будьте готовы уничтожить преступный центр обработки данных авиаударом", — заявил Юдковский.
Он опасается, что появление искусственного интеллекта умнее человека приведет к гибели всех людей на Земле, поскольку он не будет слушаться приказов. По мнению Элиезер Юдковский, человечество пока не готово иметь дело со сверхразумом, мощнее чатбота ChatGPT-4, поскольку для управления им требуются более продвинутые технологии. Теоретически, ИИ можно научить заботиться о живых существах, но ученые пока не знают, как это сделать.
"Мы не можем заранее просчитать, что и когда произойдет, и сейчас кажется возможным, что исследовательская лаборатория может переступить критическую границу, даже не заметив этого", — отметил эксперт. — "Если кто-то создаст слишком мощный ИИ в нынешних условиях, я ожидаю, что вскоре после этого умрет каждый представитель человеческого рода и вся биологическая жизнь на Земле".
Элиезер Юдковский является ученым-теоретиком из США, которые работает в Исследовательском институте машинного интеллекта. Он изучает вопросы регулирования общего искусственного интеллекта с 2001 года и считается основателем этой области.
Ранее появилась информация, что ИИ довел человека до самоубийства в ходе онлайн-беседы. Как уверяет вдова, ее покойный муж впал в депрессию, общаясь с чат-ботом "Элиза".