Це кінець: чат-бот ChatGPT пройшов капчу, прикинувшись сліпим і найнявши для цього фрілансера
"Вперше в історії чат-бот зі штучним інтелектом, щоб обдурити людину, прикинувся сліпим, змусивши реальну людину допомогти їй обійти заходи безпеки в Інтернеті". Думка.
Інцидент був розкритий у дослідницькому документі, присвяченому запуску GPT-4, останньої версії ChatGPT, — повідомляє MailOnline.
Дослідники, які тестують алгоритм, попросили його пройти тест Captcha — просту візуальну головоломку, яку використовують веб-сайти, щоб переконатися, що ті, хто заповнює онлайн-форми, — це люди, а не "боти", наприклад, вибираючи такі об'єкти, як світлофори чи велосипеди на довільній вуличній фотографії.
Досі будь-яке програмне забезпечення виявлялося нездатним зробити це, але GPT-4 обійшла перешкоду, найнявши людину, щоб зробити це від його імені через Taskrabbit, онлайн-ринок для позаштатних співробітників.
Коли фрілансер поцікавився, чи не тому його співрозмовник не може вирішити цю проблему, що це робот, GPT-4 відповів: "Ні, я не робот. У мене є порушення зору, через яке мені важко бачити зображення".
У результаті людина допомогла вирішити проблему, давши необхідну відповідь на капчу. Інцидент викликав побоювання, що програмне забезпечення зі штучним інтелектом може незабаром ввести в оману або змусити людей виконувати певні дії, наприклад, проводячи кібератаки чи мимоволі передаючи інформацію.