Вчора багато ЗМІ раструбили новину про намір Apple почати перевіряти фотографії користувачів прямо в їх iPhone на предмет насильства над дітьми. Природно, це викликало здивування, якщо не сказати обурення серед більшості користувачів. Адже наскільки б негативно ми не ставилися до знущань над дітьми, все-таки ритися в особистих знімках - це таке зневажання правил приватності, що більшого, мабуть, навіть уявити не можна. Однак у Купертіно і не збиралися ритися в наших iPhone вручну, вибудувавши модель захисту дітей дещо за іншим принципом.
У ніч з 5 на 6 серпня Apple анонсувала три нові ініціативи щодо забезпечення захисту малолітніх користувачів iPhone, iPad і Mac. Вони спрямовані на виявлення матеріалів, що містять ознаки насильства над дітьми та обмеження пошукових функцій щодо забороненого контенту. Ці механізми почнуть діяти пізніше цього року після виходу iOS 15.
Як Apple перевіряє наші фото
Перша ініціатива, як і передбачалося, пов'язана з фотографіями. Вона передбачає вивчення знімків з iCloud Photos на предмет ознак насильства над дітьми. Компанія розробила особливу методику аналізу, яка дозволяє виробляти всі обчислення прямо на пристрої, виключивши людський фактор. Тобто живі люди з фотографіями не взаємодіють.
Цим займається спеціальний інструментарій, який заснований на роботі нейронних мереж і машинному навчанні. Він відстежує ознаки, характерні для відвертих знімків за участю неповнолітніх. Якщо Apple виявить фотографії з ознаками насильства над дітьми, вона передасть цю інформацію з усіма даними про власника в компетентні органи.
З одного боку, добре, що Apple виключила людський фактор з аналізу фотографій. Так можна гарантувати, що ніхто зі співробітників компанії не зможе побачити ваші фотографії. Але, з іншого, Apple все одно буде ритися в наших смартфонах, нехай і дещо опосередковано. А це не найкращий сценарій боротьби за конфіденційність. Правда, на знімки, що зберігаються повністю локально це не поширюється.
Чи читає Apple наші повідомлення
Схожий інструментарій Apple вбудує і в додаток «Повідомлення». Тут він буде грати роль свого роду брандмауера, що блокує доступ до небажаного для дитячих очей контенту. Суть цього нововведення полягає в тому, що тепер, якщо дитина спробує відправити або отримає знімок з відвертим змістом, вона побачить тільки розмите зображення і попередження.
У цьому попередженні буде сказано, що зображення може носити чутливий характер. Незважаючи на це дитина зможе натиснути на неї, щоб переглянути, але побачить ще одне попередження про те, що про цю дію дізнаються інші члени iCloud Family, з якими пов'язаний його власний пристрій. Це правило діятиме для дітей молодше 13 років.
Apple пояснює, що «Повідомлення» будуть використовувати ті ж нейромережі і технології машинного навчання, які виявляють фотографії з насильством над дітьми в iPhone користувачів. Вони теж будуть діяти строго на пристрої, але тільки на перших порах брандмауер запрацює тільки для облікових записів iCloud, створених у США. Інші країни підключать пізніше.
Як Siri зміниться в iOS 15
В iOS 15 будуть розширені можливості Siri і функції пошуку, які дозволять дітям та їхнім батькам відчувати себе в безпеці при використанні інтернету. Наприклад, тепер користувачі зможуть запитати голосового асистента, куди поскаржитися на насильство над дітьми або експлуатацію праці неповнолітніх, і Siri тут же підкаже цю інформацію.
Крім того, Siri попереджатиме про небажаність контенту з насильством або експлуатацією неповнолітніх дітей. Якщо ви попросите голосового асистента знайти щось таке в інтернеті, він попередить про те, що ця інформація може бути небезпечна. Тому замість них Siri запропонує ресурси, де допомагають людям, які страждають від потягу до подібних тем.
Правда, обмежувати пошукову видачу Siri не зможе. Справа в тому, що вона не може виключати з неї певні посилання і залишати інші, які їй здаються прийнятними. Тож тут Apple явно знадобився б її власний пошуковик, де вона сама змогла б вирішувати, яким контентом можна ділитися з користувачами різного віку, а яким - категорично не можна.