Трансформери — моделі даних, засновані на нейронних мережах, — радикально змінять те, як машини взаємодіють із нами.
Останнім часом з'являється все більше мовних моделей на основі архітектур-трансформерів. Вчені впевнені, що за їх допомогою вони зможуть зробити прорив у галузі штучного інтелекту, якого ніхто не спостерігав протягом останніх 20 років, пише wired.com.
Фахівці в галузі штучного інтелекту активно розробляють нейронні мережі, що моделюють послідовні дані та прогнозують, які дані повинні йти далі в ланцюжку. Такі мережі називають перетворювачами або трансформерами. В їх основу закладено так звану ідею "уваги", яка дозволяє перетворювачам "приділяти увагу" найбільш характерним особливостям вхідних даних, а не намагатися обробити всю інформацію без розбору. Коли чат-боти, які використовують природну мову, підключили до таких нейронних мереж, значно покращилася якість перекладу з однієї мови на іншу, пошук інформації, генерування текстів на задані теми.
Хоча Google стала піонером у галузі архітектур-трансформерів, компанія OpenAI першою продемонструвала можливості цієї технології, презентувавши у 2020 році GPT-3 (Generative Pre-Trained Transformer 3). На той час це була найбільша мовна модель з будь-коли створених, наголошує ЗМІ. Здатність GPT-3 створювати "людиноподібний" текст була зустрінута дуже привітно. Відтоді мовні ШІ-моделі удосконалюються з воістину дивовижною швидкістю, попри те, що робота над ними коштує чималих коштів.
Протягом 2022 року розробникам вдалося зробити нейромережі "компактнішими" (якими, які спираються на невелику кількість заданих параметрів) і водночас ефективнішими та дешевшими.
"Багато хто з них має відкритий вихідний код, що уможливлює проведення різних експериментів та розгортання інших моделей на їх базі. Це означає, що нейромережі-трансформери все частіше і частіше почнуть інтегрувати до додатків і служб, які ви використовуватимете щодня", — йдеться у матеріалі.
Можливості таких ШІ-продуктів розширяться, тому що вже сьогодні ми бачимо, вони можуть не тільки генерувати текст, а й зображення, аудіо та відео, причому дуже високої якості. Ця нова хвиля штучного інтелекту змінить уявлення у тому, що здатні гаджети.
Протягом усієї історії існування обчислювальної техніки людям доводилося використовувати інтерфейси, розроблені комп'ютерами, але з людей. Тепер можна сміливо спрогнозувати, що в 2023 році ми почнемо спілкуватися з машинами нашою мовою — миттєво і всебічно, ми дійсно будемо вести з ними діалог. І якщо це станеться, то ми маємо переглянути те, як людина взаємодіє з машиною.
Протягом останніх кількох десятиліть ми вигадували особливі мови для комп'ютерів, а потім самі їм навчалися. Тепер комп'ютер вивчить наші, людські, мови. У міру того, як ШІ нарешті вступає в епоху корисності, можливості для нових продуктів, орієнтованих на ШІ, величезні. Скоро ми будемо жити у світі, де, незалежно від ваших здібностей до програмування, основними обмеженнями є просто цікавість та уява.
Раніше ми повідомляли про те, що ШІ-технології активно використовують військові у сфері спостереження та розвідки.