Июль. Meta устроила настоящий взрыв. Их новое ИИ-приложение позволяло пользователям отмечать аккаунты Instagram, чтобы генерировать изображения на основе внешности этих людей. Подвох? Функция была включена по умолчанию. Пользователям пришлось бороться, чтобы от нее отказаться.
Плохая идея.
Создатели контента взбунтовались. Видео с инструкциями, как отключить эту функцию, стали вирусными. Сэм Соин Янг выразил мысли миллионов зрителей: зачем навязывать нам ИИ, если мы этого не хотим? Мы не просили об этом. Мы просто хотели выкладывать фотографии.
Через три дня Meta отступила. Три дня. Они признали, что функция «промахнулась мимо цели». Честно говоря, рекордно короткий срок жизни для запуска нового продукта. Торин Клоусовски из Фонда электронных рубежей назвал реакцию мгновенной и масштабной. Быстрое правосудие для защиты цифровых прав? Возможно. Или просто паника.
«Эта функция промахнулась мимо цели», — заявила Meta, откатив изменения быстрее, чем исчезают большинство трендов.
Я живу в окопах режима «opt-out» (отказ по умолчанию) уже гораздо дольше. Недавно я отключил «Ask Gemini» в Google Docs. Он появился сам, без приглашения. Я копался в настройках, чувствуя, как поднимается давление. Это не уникальный случай. Я повторяю этот ритуал в Dropbox, LinkedIn, Facebook. Это изматывает.
Бен Уинтерс называет это «статус-кво отказа». Meta? Они короли этого хаоса. Они создали мир, где конфиденциальность — это охота за сокровищами. Помните «Улучшенное просмотров» (Enhanced Browsing) от Facebook? Оно отслеживало каждый сайт, который вы посещали. Нужно было знать, как это отключить. Большинство не знало.
Meta защищает такой подход. Представитель Даниэль Робертс написал приятное письмо о том, что пользователи должны контролировать свои данные. О исследованиях. О TTC Labs. Приятные слова.
Реальность иная. Вудроу Харцог из Бостонского университета указывает на простую истину: по умолчанию побеждают. Люди оставляют предустановки как есть. Если предустановка — «согласие», вы автоматически соглашаетесь. Точка. Вы слишком устали. Или слишком заняты. Или и то, и другое.
В Европе это поняли. Статья 25 GDPR требует «защиту конфиденциальности на этапе проектирования». Собирайте только то, что необходимо. Предварительно выбирайте самый защитный вариант. Это звучит базово. Это должно быть законом везде.
Вместо этого у нас есть разрозненные законы штатов. Калифорния пытается. Мэриленд пытается. Остальные? Дикий запад переключателей. Это ощущается лично, будто это моя вина за то, что я пропустил пункт в меню. Будто мне нужно разгадывать лимерики, чтобы обезопасить свои данные. Не должно быть так.
Уинтерс видит в этом федеральную проблему. Правительства должны вмешиваться, когда компании становятся злоупотребительными в масштабах. Прошлые попытки провалились. Он остается оптимистом. Гнев общественности растет.
Выборы в дизайне имеют значение. Технологии не нейтральны. Говорить, что «это всего лишь инструмент», — это отмазка. Это скрывает последствия. Если вы создаете инструмент для дипфейков и автоматически включаете в него миллионы пользователей, дипфейки неизбежны. Это случится.
Нас заставляют соглашаться с реальностью, которой мы не хотим.
Хотим ли мы этого? Мира, где отказ от использования собственного лица является нормой?
