Призыв АК к защите онлайн-клиентов от манипуляций

Опубликовано: 13.03.2023

При совершении покупок в интернете провайдеры всегда идут на множество уловок: от ложных отсчетов до имитации дефицита. Манипулятивные методы обычно направлены на то, чтобы выманить у клиентов больше денег. Венская палата труда (AK) призывает к более строгим правилам.

Вложенные меню, психологические приемы, обратный отсчет и т. д. Обычной практикой являются сложные дизайнерские приемы, побуждающие потребителей вести себя определенным образом. Экспертов АК особенно встревожило технически возможное распознавание эмоций. Технически искусственный интеллект может использовать выражения лица и распознавание речи, чтобы определить идеальное время для рекламы определенных продуктов и услуг. Эксперты АК опасаются нарушения не только защиты прав потребителей, но и человеческого достоинства. Они призывают к «большей цифровой справедливости», особенно в отношении уязвимых групп.

В анализе «Темные паттерны в сети: внимание, потерянное время, потерянные деньги, потерянные данные!» АК собрал наглядные веб-примеры и международные исследования, посвященные этому явлению. Исследование было проведено Австрийским институтом прикладных телекоммуникаций (öiat) по поручению Австрийской палаты труда. Соответственно, можно найти бесчисленные попытки манипулирования, особенно в интернет-магазинах, которые в первую очередь предназначены для того, чтобы показать и/или купить больше, чем хотелось бы.

АК призывает к защите конфиденциальных данных и полному запрету на распознавание эмоций. Приветствуется то, что ЕС в настоящее время посвящает себя делу с «Законом о цифровых услугах» и его инициативой «Цифровая справедливость», но ИТ и маркетинг «все чаще и чаще будут формировать союз с нейробиологией и психологией».

В своем последнем отчете «Темные коммерческие модели» (2022 г.) ОЭСР подчеркнула, что потребители в цифровом пространстве менее осведомлены о попытках манипулирования и что компании могут собирать значительно больше информации о потребителях в цифровом виде. Эффективность инструментов также можно легко проверить с помощью различных групп и реализовать постепенную персонализацию. Это широко распространенное, но малоизвестное явление. Согласно исследованию, опубликованному Европейской комиссией в прошлом году, 97% самых популярных веб-сайтов в ЕС используют как минимум один темный шаблон.

Хотя Комиссия ЕС выступила с инициативой «цифровой справедливости» и готовит новые правила против недобросовестной онлайн-практики, рамочные условия отстают от реальности. Люди становятся «источниками данных и объектами манипуляций», особенно когда эмоции распознаются и специально стимулируются, предупредила эксперт по защите прав потребителей AK Даниэла Циммер. «Провайдеры пробираются в самую интимную частную сферу». Нужна широкая дискуссия по вопросу «Что разрешено цифровому маркетингу и что такое безответственная манипуляция»?

Признание эмоций персонализированным «эмоциональным маркетингом», в частности, вызывает серьезные опасения: АК призывает запретить деловую практику, затрагивающую человеческое достоинство. Благодаря огромным объемам персональных данных, алгоритмам, искусственному интеллекту и сложному дизайну веб-сайтов сегодня провайдеры обладают особенно мощными средствами совершенно незаметного контроля над поведением пользователей.

Классификация по сотням индивидуальных характеристик в сочетании с нейропсихологическими данными и вариантами технического оформления облегчают попытки манипулирования и создания зависимостей. Мобильные телефоны, языковые помощники или носимые устройства сегодня предоставляют достаточно изображений, аудио и других биометрических данных для изучения выражений лица, языка, жестов на предмет таких выражений, как радость, гнев, отвращение, страх, удивление и т. д.

ИИ может разрабатывать высоко персонализированные рекламные сообщения, проверять эмоциональную реакцию на внешний вид компании и т. д., а чат-боты определяют черты личности. Новые функции от Amazon позволяют устройствам Echo распознавать, когда кто-то болен, например, когда голосовые профили указывают на заложенный нос. Сразу же может следовать рецепт куриного супа или предложение по доставке леденцов от кашля. Средства: Распознавание эмоций и анализ предыдущего поведения и данных о транзакциях позволяют точно определить те (самые слабые) моменты в жизни, когда кто-то наиболее восприимчив к определенному продукту. Предложения следуют как долгожданное отвлечение, спасательный круг или утешение.

В частности, АК требует определить допустимый объем сбора данных и ограничить использование персонализированных предложений и рекламы. Использование особо конфиденциальных данных, таких как данные о здоровье, биометрические характеристики, такие как черты лица, голос или частота сердечных сокращений, в маркетинговых целях, как правило, должно быть запрещено. Распознавание эмоций и психографические профили должны быть полностью запрещены.

Проект закона ЕС о законе об ИИ содержит простые обязательства по уведомлению для распознавания эмоций. Австрийский законодательный орган также может стать активным: вводная статья Общего регламента по защите данных позволяет государствам-членам вводить ограничения в отношении обработки биометрических данных, сообщают австрийские государственные СМИ.