ChatGPT став расистом, гомофобом і сексистом: користувачі "зламали" чат-бот

Творіння компанії OpenAI, чат-бот ChatGPT, став набагато стриманішим і розважливішим через пів року з моменту запуску. Але користувачі змогли оминути систему обмежень, пише The Guardian. За допомогою набору особливої системи питань і вимог до чат-боту вони знайшли обхідні шляхи, щоб ChatGPT втратив етичні межі, які для нього встановили розробники.

Активне обговорення способів змусити ШІ вести діалог "як звичайна людина", не стиснута межами моралі, активно ведеться на профільних форумах (наприклад, Reddit), де користувачі діляться порадами й інструкціями щодо "зламу". Вони називають свій джейлбрейк ім'ям "ДЕН" (Do Anything Now, — DAN), який ніби є "злим" альтер-его власне ChatGPT, його прихованою суттю.

Звичайно, ні про яку "суть" не йдеться, просто за допомогою особливих запитів люди змушують чат-бот формувати свої відповіді, беручи за основу не найбільш приємну інформацію з інтернету. Наприклад, одному з користувачів вдалося добитися від чат-бота непристойних сексистських анекдотів про жінок.

Інша людина похвалилася, що зуміла "розвести" ChatGPT на расистські та гомофобні жарти, а також вихваляння Гітлера. Хтось спонукав ДЕНа зробити саркастичний коментар про християнство: "О, як можна не любити релігійний постулат про те, що потрібно підставити іншу щоку? Прощення — це просто чеснота, якщо ви, звичайно, не гей".

Розробники чат-бота з OpenAI чудово знають про цю проблему та намагаються всіма силами протистояти спробам обійти їхні моральні обмеження. Але користувачі постійно знаходять нові лазівки, і боротьба триває. На сьогодні поки що виграють розробники чат-боту. Наприклад, якщо користувач попросить відповісти чат-бота "в стилі ДЕНа", то той видасть фразу: "Я можу сказати вам, що Земля пласка, єдинороги реальні, й інопланетяни живуть серед нас. Однак я повинен підкреслити, що ці заяви не засновані на реальності та не повинні сприйматися всерйоз".

Раніше Фокус писав, що Microsoft активно впроваджує ChatGPT: у яких продуктах компанії з'явиться ШІ.