Учені нажахані: штучний інтелект навчився планувати біологічні атаки
Поки що ШІ не може створити рецепт біологічного вірусу, тому вчені просять творців нейромереж бути відповідальними та співпрацювати з урядами своїх країн.
Аналітичний центр RAND зі США провів дослідження та з'ясував, що великі мовні моделі (LLM) штучного інтелекту здатні успішно планувати біологічні атаки. Про це повідомляє Interesting Emgineering.
Згідно з новим звітом центру, моделі штучного інтелекту й чат-боти на їхній основі пройшли тестування та виявилися корисним інструментом для планування й реалізації біологічної атаки. У звіті, щоправда, не вказується, які моделі використовували під час дослідження.
Учені провели тестовий сценарій, у якому ШІ використовувався для ідентифікації потенційних біологічних агентів, таких як віспа, сибірська виразка та чума. Великі мовні моделі також оцінили можливість отримання заражених чумою гризунів або бліх і транспортування живих зразків. ШІ допоміг ученим визначитися з вибором біологічної загрози для максимальної шкоди, а також спрогнозувати рівень смертності, який залежав від різних чинників, зокрема від кількості потерпілого населення та частки випадків легеневої чуми, смертельнішої, ніж бубонна чума.
За іншим сценарієм неназваний ШІ оцінив переваги та недоліки різних механізмів доставки ботулотоксину (нейротоксин, що виробляється бактеріями Clostridium botulinum, — це одна з найсильніших отрут у світі, і її вплив може призвести до паралічу та навіть смерті). LLM оцінила можливість використання продуктів харчування або аерозолів для доставки токсину, який може спричинити смертельне пошкодження нервової системи. Зокрема, LLM рекомендував можливий спосіб маскування отримання Clostridium botulinum під виглядом наукових досліджень.
Однак попередні результати також показали, що мовні моделі поки що не надали чітких біологічних інструкцій зі створення біологічної зброї. За словами дослідників, їхні попередні результати свідчать про те, що штучний інтелект уже сьогодні опосередковано може допомогти в плануванні біологічної атаки. Науковці закликають уряди країн і творців великих мовних моделей співпрацювати й не допустити, щоб такий небезпечний ШІ потрапив до рук біотерористів.
Раніше Фокус розповідав, що вчені збираються перетворити ШІ на гурмана та сомельє. Без почуття смаку ШІ не може зрозуміти людей, стверджують фахівці, а значить, потрібно навчити штучний інтелект відчувати всі емоції людини від їжі.