Американський Forbes пише, що Google таємно сканує всі фото користувачів. Розповідаємо, чи можна зберегти свої дані від компанії.
Що сталося
Коли Google додав SafetyCore — технологію сканування фотографій до телефонів Android, це викликало тільки негативну реакцію: компанію звинуватили в «таємному» встановленні нової технології моніторингу на телефонах Android «без дозволу користувача».
Google запевнив, що SafetyCore є сприятливою структурою і фактично не почне сканувати фотографії чи інший вміст. Нова програма забезпечує інфраструктуру на пристрої для безпечного та приватного виконання класифікації, щоб допомогти користувачам виявляти небажаний вміст. Користувачі контролюють SafetyCore, а SafetyCore лише класифікує певний вміст, коли програма запитує його через опціональну функцію.
Нову функцію сканування почали імплементувати із Google Messages. Наразі Google Messages розгортає попередження про чутливий контент, які розмивають зображення оголеної натури на Android. Ця функція не лише розмиває контент, але й попереджає, що такі зображення можуть бути шкідливими, а також надає можливість переглянути відвертий контент або заблокувати його.
На пристрої відбувається сканування ШІ через SafetyCore, який, за словами Google, не надсилає дані назад до Google, а використовує локальні моделі машинного навчання для класифікації контенту в програмах серед них:
- спам;
- шахрайство.
Таким чином компанія лише попереджає користувачів про такі дії без передавання даних на сервери. Однак компанію критикують за відсутність відкритого вихідного коду як для самої SafetyCore, так і для її моделей машинного навчання, наголошуючи, що хоча локальні нейронні мережі є корисними, вони повинні бути прозорими та відкритими для перевірки. Це повертає до питання про непрозорість цієї системи.
Нагадаємо, що нещодавно Android запустив нову функцію безпеки, яка змушуватиме пристрої перезавантажуватись, якщо користувачі не розблокували їх протягом деякого часу, що ускладнить доступ інших людей до внутрішніх даних.
Чому це важливо
Оновлення Google Messages було очікуваним. Однак невідомо, на що очікувати користувачам далі. Ризик полягає в тому, що ця можливість впроваджується в той самий час, коли безпечний, зашифрований вміст користувача перебуває під тиском з боку законодавців і служб безпеки в усьому світі, що лише зростає. Щоразу, коли впроваджується така технологія, прихильники конфіденційності відмовляються від неї.
Наразі ця функція вимкнена за замовчуванням для дорослих, але ввімкнена за замовчуванням для дітей. Дорослі можуть вирішити ввімкнути нові заходи безпеки в налаштуваннях Google повідомлень у розділі «Захист і безпека» — керувати попередженнями про конфіденційний вміст». Залежно від віку дитини її налаштування можна змінити лише в налаштуваннях облікового запису або у Family Link.
Майбутнє неминуче принесе посилений моніторинг штучним інтелектом, і 3 млрд користувачів Google, включно з користувачами Android та Gmail, повинні будуть визначити прийнятний для себе рівень сканування та аналізу їхніх даних. Попри те, що певні оновлення можуть не забезпечувати такого ж рівня конфіденційності, як раніше, нові функції, як-от попередження в Google Messages перед надсиланням потенційно конфіденційних зображень, вказують на спроби збалансувати зручність і обізнаність користувачів щодо їхньої приватності.