"ИИ, как атомная бомба. Он может изменить ход истории": бывший инженер Google

Блейк Лемуан, бывший сотрудник Google, уволенный за нарушение политики конфиденциальности компании, считает, что ИИ несет большие риски. По его словам, последние модели нейросетей являются самым мощным технологическим достижением со времен изобретения атомной бомбы, и могут коренным образом изменить ход истории, пишет interestingengineering.com.

Лемуан опасается, что чат-боты и инструменты вроде Bing AI от Microsoft, могут быть использованы для распространения ложной информации, политической пропаганды, межрасовой или религиозной розни. Он был тестировщиком ИИ-системы LaMDA от Google, и после окончания тестов опубликовал свое мнение, сказав, что нейросеть обладает "чувствами" и ее можно считать "разумной". Инженер считает, что ИИ должен проходить более тщательное тестирование для выявления рисков таких, как манипулирование пользователями.

"Я чувствую, что эта технология невероятно экспериментальна, и выпускать ее прямо сейчас опасно", — заявил он.

Однако такие гуру ИТ-индустрии, как Билл Гейтс, считают, что никакой опасности для человека и человечества в целом чат-боты и подобные инструменты не несут. Гейтс назвал новейшие модели искусственного интеллекта "старыми технологиями" в интервью Financial Times.

"Технологии, с которыми "играет" большинство людей, устарели на целое поколение", — сказал он.

Гейтс также подчеркнул, что люди сами обучают чат-боты провокационным вещам, пытаются найти способы обмануть ИИ-модель или заставить ее совершить ошибку. Так что разумнее себя должны вести, прежде всего, люди и не "провоцировать" нейросети на непристойные, оскорбительные высказывания.

Ранее мы сообщали о том, что ИИ-модель приняла участие в воздушном бою, выступив против человека-пилота. Последнему победить нейросеть не удалось.