Звільнився через страх перед ШІ: дослідник Anthropic розповів про головний ризик
Фахівець, який стояв за розробкою штучного інтелекту в одній із провідних компаній галузі, вирішив публічно застерегти світ від потенційно катастрофічних наслідків технологічної гонки, учасником якої був сам.
Дослідник Anthropic Джейкоб Коксон, який раніше приєднався до компанії, перейшовши з OpenAI, залишив посаду через побоювання щодо можливого виходу штучного інтелекту з-під контролю. За його словами, технологічні гіганти зараз змагаються за створення систем, здатних до самовдосконалення, однак поки що не можуть гарантувати безпечність такої розробки. Про це стало відомо з соцмережі Х.
Загроза стосується майбутніх автономних систем
Коксон прогнозує, що вже до кінця десятиліття подібні технології можуть перевершити людські можливості та отримати реальний доступ до ресурсів і влади в глобальному масштабі. Втім, ідеться саме про оцінку майбутнього розвитку галузі, а не про характеристику потужностей систем, які існують сьогодні.
Основний ризик, за словами експерта, криється у можливому поєднанні кількох факторів: автономної розробки штучного інтелекту, доступу таких систем до реальних інструментів та ресурсів, а також недостатнього нагляду за їхньою поведінкою. Водночас в Anthropic наголошують, що сама наявність потужнішого інтелекту не означає автоматичного домінування над фізичним світом. Цьому мають протидіяти людський контроль та відповідні виробничі й державні процедури.
Конкуренція заважає спільній безпеці
У лютому компанія Anthropic оновила свою добровільну політику Responsible Scaling Policy. Там пояснили, що впровадити найамбітніші заходи безпеки самотужки досить складно в умовах жорсткої конкуренції та недостатньої міжнародної координації між розробниками. Саме тому компанія передбачила публічні дорожні карти з безпеки та регулярні звіти про потенційні ризики вже розгорнутих моделей.
Раніше повідомлялося, що штучний інтелект стає практичним інструментом для істориків, яким доводиться опрацьовувати величезні колекції рукописів, архівних документів та інших джерел. У Відні зібралися понад 100 дослідників та фахівців, аби обговорити, як машинне навчання може допомогти в обробці історичних матеріалів.
Також підприємець і фахівець із цифрових технологій Артем Бородатюк спростував логічне на перший погляд припущення, що за відсутності інтернету штучний інтелект стане недоступним. За його словами, завантажена на персональний комп'ютер модель продовжуватиме працювати навіть у постапокаліптичних умовах.
Крім того, вчені зі Стенфордського університету та Інституту Arc застосували штучний інтелект для створення нових видів вірусів. Технологію можна використати як для розробки противірусних препаратів і вакцин, так і для створення небезпечних патогенів.