С помощью ИИ враг может "отравить" данные в военных системах: эксперт рассказал как

Специалист по кибербезопасности Джош Ласпиносо, чей стартап в свое время купили компании Raytheon и Forcepoint, выступил с докладом перед подкомитетом Сената по вооруженным силам, сообщает Defense News. Там он рассказывал о возможностях искусственного интеллекта в защите военных данных и об опасностях, которые несут вражеские нейросети.

В своем выступлении он обратил особое внимание на две основные угрозы, которые напрямую связаны с инструментами ИИ: одна — воровство данных, а вторая – "отравление" данных. Под первым аспектом эксперт имеет в виду использование нейросетей в качестве мощного помощника в написании вредоносного кода, что позволит повысить количество кибератак на американскую военную инфраструктуру. В условиях современного противостояния держав именно хакерские атаки выходят на первый план. Впрочем, ИИ в умелых руках может помочь и противостоять таким атакам.

Второй момент более интересен. "Отравление" данных подразумевает смешивание лжи и правды на основе реальной информации, которая может вбрасываться в системы обучения искусственного интеллекта.

В качестве примера Джош привел пример с чат-ботом Tay от Microsoft, который компания запустила пару лет назад еще до бума с ChatGPT. Бот был размещен в твиттере и собирал данные со всей соцсети выдавая на их основе свои собственные "сообщения". Злоумышленники и различные троллинг-группировки сговорившись стали "забрасывать" соцсеть оскорбительными и неправдивыми материалами, и в итоге чат-бот Tay стал выдавать все это в своих твитах. Microsoft очень быстро закрыла проект.

Ласпиносо говорит, что подобным образом в отношении языковых моделей, которые собирают информацию по всему интернету, могут действовать враждебные государства, забрасывая ложной информацией интернет и к этому нужно отнестись очень серьезно. Кибербезопасность и противостояние пропаганде – два основных аспекта компьютерных войн будущего, заключает эксперт.

Ранее Фокус рассказывал, что украинские хакеры из ГУР взломали оборонный завод в Ижевске.