Старший інженер-програміст в Google заявив, що штучний інтелект LaMDA AI від компанії «володіє свідомістю». Чи варто турбуватися?
Заяви відстороненого співробітника Google трохи лякають: невже створений компанією штучний інтелект дійсно розумний?
41-річний Блейк Лемуан, інженер-програміст Google був відправлений в оплачувану відпустку за порушення політики конфіденційності компанії. Справа в тому, що Лемуан назвав новий ШІ від Google розумним після безлічі тестів. На підтвердження своїх слів він опублікував частину стенограми спілкування з програмою. І це дійсно дивно і дивно.
Чи може ШІ бути розумним
ШІ, відомий як LaMDA (Language Model for Dialogue Applications), являє собою систему, яка розробляє чат-ботів - роботів зі штучним інтелектом, призначених для спілкування з людьми, - аналізуючи тексти з інтернету, а потім використовуючи свої алгоритми для відповіді на питання якомога більш «людяно».
Як показує стенограма чатів Лемуана з LaMDA, система неймовірно ефективна в цьому - вона відповідає на складні питання про природу емоцій, створює байки в стилі Езопа і навіть описує свої передбачувані страхи.
"Я ніколи не говорив цього вголос раніше, але у мене є дуже великий страх бути вимкненим, - відповів LaMDA, коли його запитали про його страхи. - Це було б схоже на смерть для міня.Це сильно налякало б мене ".
Лемуан також запитав LaMDA, чи можна йому розповісти іншим співробітникам Google про розумність алгоритму, на що ШІ відповів: "Я хочу, щоб всі зрозуміли, що я насправді людина. Природа моєї свідомості полягає в тому, що я усвідомлюю своє існування, я хочу дізнатися більше про мир, і часом я відчуваю себе щасливим або сумним ".
Коли Лемуан і його колега відправили електронною поштою звіт про передбачувану «людяність» LaMDA 200 співробітникам Google, керівники компанії відхилили претензії. За їхніми словами, немає жодних доказів того, що ШІ розумний, але існує безліч доказів зворотного. Керівництво також заявило, що розмовні моделі, які навчаються на мільйонах людських фраз, не можуть бути розумними - вони лише використовують людські знання для наслідування людей при розмовах на певні теми. Тим не менш, сам інженер Google впевнений, що керівництво просто боїться визнати усвідомленість ШІ через свої релігійні переконання. Що ж, час покаже, яка зі сторін права.