Вчені з Чиказького університету (США) провели дослідження, в ході якого показали, як можна використовувати ШІ для написання складних фейкових відгуків. Такі відгуки неможливо відрізнити від реальних сучасними методами, а читачі, які нічого не підозрюють, знаходять їх високонадійними.
Відгуки про ресторани генерувалися за допомогою рекуррентних нейромереж (техніки глибокого навчання), які раніше тренувалися на тисячах реальних відгуків, доступних у Мережі.
За словами дослідників, згенеровані відгуки були практично невідгукнуті від реальних. Так, автори роботи показали, що користувачі не тільки не розпізнавали фейкові відгуки, а й вважали їх такими ж корисними, як і реальні, написані людьми.
Останнє, напевно, насторожує найбільше. Оскільки це в суті означає, що відгуки, написані ШІ, виконують свою головну функцію - цілеспрямовано впливають на думку людей.
Відзначається, що в таких відгуках рідко виявлявся плагіат (за допомогою ПЗ). Це пов'язано з тим, що ШІ генерував їх пізнаково, а не висмикував слова зі справжніх відгуків.
Сьогодні існує досить велика підпільна індустрія з написання фейкових відгуків людьми (за гроші). Однак, як зазначає професор Чиказького університету Бен Чжао (Ben Y. Zhao) в інтерв'ю порталу Business Insider, впровадження ШІ може її підірвати. Вчений каже, що поки не знає про використання подібних алгоритмів у цій індустрії. Але немає ніяких гарантій, що хто-небудь не придумає щось схоже і не стане використовувати в корисливих цілях.
При цьому дослідники пишуть, що відгуки нейромережі все ж не були ідеальними. Виявилося, що алгоритм використовував менший набір знаків - і це було неважко помітити. Однак, за словами авторів роботи, майбутні нейромережі можуть бути навіть більш складними, і, відповідно, згенеровані ними відгуки буде важче детектувати.
Джао зазначає, що йдеться не тільки про фейкові відгуки про ресторани: такі технології можуть загалом похитнути наші переконання про те, що є реальним, а що - ні.
З текстом дослідження можна ознайомитися за посиланням.