Midjourney тепер генерує картинки лише за гроші: все "через Папу Римського"

Компанія Midjourney, яка пропонує послугу створення зображень за допомогою штучного інтелекту, призупинила безплатні пробні версії свого сервісу, повідомляє The Verge.

На такий крок розробники нейромережі пішли після того, як кілька її згенерованих зображень — включно із фальшивими зображеннями арешту Дональда Трампа і Папи Римського в стильній куртці — стали вірусними в інтернеті, і багато хто прийняв підробки за реальні фото.

У чому корінь проблеми

Девід Хольц, засновник і генеральний директор Midjourney, оголосив про цю зміну з посиланням на "надзвичайний попит і зловживання пробними версіями". Раніше Midjourney дозволяла будь-кому зареєструватися, щоб використовувати своє програмне забезпечення через Discord, пропонуючи 25 безплатних генерацій зображень перед тим, як почати стягувати плату за передплату від $10 на місяць. Багато хто, не бажаючи платити, просто реєстрував нові акаунти, тож такий суворий крок може бути викликаний боротьбою не стільки з діпфейками, скільки із "халявниками", вважають деякі експерти.

Багато ІТ-фахівців давно попереджали про небезпечний потенціал ШІ для створення дезінформації, але це раніше не було великою проблемою, тому що підробки легко розпізнавались. Однак можливості генеративного ШІ набирають обертів і хвиля підроблених фото, як у випадку з Трампом та Папою Римським, напевно, не останній інцидент.

Midjourney випустила п'яту версію свого програмного забезпечення, де значно покращила якість створення зображень, особливо з людьми. Ці покращення призвели до того, що низка зображень Midjourney стали вірусними в останні тижні. На фейках засвітилися не лише Дональд Трамп із Папою, а й Емманюель Макрон, Ілон Маск.

Чим слабша модерація — тим більше фейків

Багато експертів вважають, що нейромережа стала жертвою слабкої модерації та лояльної політики щодо генерованих зображень. Правила Midjourney більш поблажливі, ніж у деяких конкурентних сервісів (наприклад, DALL-E), але суворіші, ніж в інших (наприклад, Stable Diffusion). Нейромережа підтримує список заборонених слів і тематик (залежить від країни зареєстрованого користувача), але чіткого переліку цих "стоп-фраз" так і не опубліковано. Тим паче, сам Хольц минулого року заявляв, що обмежень ніхто не помітить, якщо не намагатиметься згенерувати "заборонку". Але все ж таки тепер компанія оголосила, що внесла до забороненого списку слово "арештований", наприклад.

За словами Девіда Хольца, окрім обов'язкової оплати його компанія планує запровадити нові заходи безпеки для своїх користувачів, такі як двофакторна автентифікація та перевірка особи. Він також закликав користувачів бути відповідальними за свої генерації та не використовувати їх для створення дезінформації чи порушення авторських прав.

Як відрізнити діпфейк від реальності

ІТ-фахівці у сфері машинного навчання радять звертати увагу на дрібні деталі зображення, такі як аномалії в освітленні, тіні чи відображенні. Генеративний ШІ, попри всю реалістичність, все ще далекий від досконалості й це можна легко помітити на "фото" з арештом Трампа, наприклад. Якщо подивитися трохи уважніше, то легко побачити, що все зображення надто картинне, ніби намальоване, є безліч характерних для картинних мазків розмитостей.

Інший спосіб — це перевірити джерело зображення або відео та порівняти його з іншими джерелами інформації. Також можна використовувати спеціальні інструменти або програми, які допомагають виявляти діпфейки за допомогою аналізу пікселів або метаданих.

Проте з розвитком технології штучного інтелекту стане дедалі складніше відрізнити реальне зображення чи відео від підробленого. Тому необхідно підвищувати обізнаність громадськості про потенційні ризики діпфейків і розвивати критичне мислення та медіаграмотність, кажуть фахівці.

Раніше Фокус писав, що ШІ звинуватили в тому, що він довів людину до самогубства: хто винний насправді.