1. Те, що ми взяли паузу для аналізу і зміни параметрів експерименту, не збігається з «відключити» або...

Роботів відключили, так як мета - все ж розмова з людиною, а не між собою.

Олексій Паєвський

В останні дні соціальні мережі та ЗМІ буквально вибухнули від повідомлень і новинних заміток, суть яких зводилася до наступного: мовляв, в Facebook тестували нових ботів, які в ході тренувань раптово стали спілкуватися на винайденому ними новому, нікому з людей не зрозумілою мовою, і в цей момент розробники сильно-сильно злякалися розбушувався штучного інтелекту і відключили «розмовляють» між собою програми.

Відразу ж заговорили про Скайнет, деякі пішли ховати одяг і мотоцикл і шукати в телефонних книгах Сару Коннор. Але так чи все страшно? Що ж насправді сталося? Адже дійсно, в розмові типу:

Bob: i can i i everything else. . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else. . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: ii can iii everything else. . . . . . . . . . . . . .

- начебто все слова зрозумілі, але сенсу в них немає. А боти - спілкуються. Так що ж трапилося? Дійсно вони винайшли свою мову - і їх довелося стерти?

Відповідь на перше питання - так. Але ніхто їх не стирав, та й то, що програми «винайшли» свій новий мову - теж не новина, та й не страшно все це. Що насправді тестували в Facebook? Те, що роблять по всьому світу - в Ощадбанку, в Google, так майже в кожній великій корпорації: намагаються створити програми (чат-боти, AI-агенти), які зможуть адекватно спілкуватися з людиною, допомагаючи йому у вирішенні його проблем, що виникають при користуванні послугами цієї компанії. Ці програми дійсно побудовані за принципом штучного інтелекту і використовують так звані нейронні мережі, але це зовсім не означає, що вони можуть думати і що у них є хоч якась подоба мозку. Просто вони вміють відповідати на питання, будучи натреновані на величезних масивах даних.

Іноді програми «тренують» на великих текстових масивах (можна, наприклад, «залити» в нейросеть «Критику чистого розуму» - і спробувати розпитати її по Канту), іноді - змушують один з одним говорити. І те, що в ході цих тренувань нейромережі «створюють» мову, який дозволяє ботам економніше спілкуватися один з одним - не новина. Саме тому і зупинила експеримент, тому що кінцева мета - навчити бота спілкуватися з людиною.

Наукова стаття про перші підсумки вийшла в червні , Але потім її знайшли британські журналісти ... Таблоїд Sun, наприклад ... І понеслося. Зрозуміло, вчені були незадоволені і навіть звинуватили ЗМІ в клікбейте (термін, що описує веб-контент, метою якого є отримання доходу від онлайн-реклами, особливо на шкоду якості або точності інформації. - Ред.) І безвідповідальності.

Друв Батра

Ось що говорить про це один з фахівців групи штучного інтелекту в Facebook Друв Батра: «Хоча ідея того, що боти, засновані на штучному інтелекті (АI-агенти), винаходять свою власну мову, може звучати тривожної і несподіваною для людей за межами нашої наукової області, це добре опрацьована суб-область в розвитку штучного інтелекту, з публікаціями, що вийшли десятиліття назад.

Простіше кажучи, агенти в якому-небудь середовищі, намагаючись вирішити завдання, часто знаходять нелогічні способи, щоб максимізувати успіх.

Те, що ми взяли паузу для аналізу і зміни параметрів експерименту, не збігається з «відключити» або «вбити» штучний інтелект. Якби це було так, кожен дослідник в області штучного інтелекту вбивав би його кожного разу, вимикаючи свій комп'ютер ».

Сергій Марков

Йому вторить російський фахівець і популяризатор штучного інтелекту Сергій Марков: «" Винахід нової мови "- це ні разу не революційне досягнення для машинного навчання. При належним чином сформульованих умовах, моделі машинного навчання можуть винаходити для вас нові мови пачками. Навіть мови з заданими властивостями, Квазіоптимальний по якомусь ознакою або їх сукупності. На сьогоднішній день це красива, але дуже рутинна завдання. [...]

Товариші наукові журналісти. Я розумію, звичайно, що клікбейт і все таке. Але ви зрозумійте, що вас прочитають навіжені законодавці, і буде у нас чергове заборонене напрямок досліджень. Все так люблять згадувати генетику і кібернетику (які, справедливості заради, ніхто, в общем-то, не забороняв), ну хоч чогось повинна історія вчити все ж? Чи ні?"

Олексій Паєвський