Суд над IT-гигантами – под угрозой психика детей

Крупные техногиганты уклоняются от ответственности за причинение вреда психике детей – так утверждают правозащитники. В США продолжается суд над Meta по делу о формировании зависимости от контента. Компанию обвиняют в том, что использование ее платформ провоцирует тревожность, депрессию и зависимое поведение у несовершеннолетних. В соседней Канаде другой IT-гигант – OpenAI – оказался замешан в деле о массовой стрельбе в Британской Колумбии. Эксперты тем временем предупреждают – искусственный интеллект может значительно усилить террористическую пропаганду, передает корреспондент «24KZ».

Беспрецедентное событие в судебной истории США – глава корпорации Meta Марк Цукерберг впервые предстал перед присяжными по делу о негативном влиянии соцсетей на психику детей. Бизнесмен заявил, что наука до сих пор официально не доказала вред цифровых платформ для психологического состояния подростков. Защита техногиганта настаивает – депрессия и тревожность у детей чаще связаны с проблемами в семье, а не с алгоритмами приложений. Однако американские правозащитники обвинили главу Meta в введении суда в заблуждение и преуменьшении вреда соцсетей для молодежи. С критикой выступила правозащитная группа «Матери против медиазависимости». Активисты считают, что бизнесмен уклоняется от прямых ответов и скрывает реальные риски для здоровья подрастающего поколения.

Джули Селфо, основатель правозащитной организации «Матери против медиазависимости»:

– Прошло уже четыре года с тех пор, как Американская академия педиатрии объявила чрезвычайную ситуацию в сфере психического здоровья детей и подростков. Растет уровень самоубийств среди подростков и детей младшего возраста. Проблемы с психикой, с которыми сталкиваются наши дети, вызваны нерегулируемыми социальными сетями, опасным контентом и алгоритмами, созданными для удержания детей в зависимости от платформ. Цукерберг избегает ответственности, хотя прекрасно знает, какой вред его продукт причинил детям. Общество требовало что-то с этим сделать, но они до сих пор отказываются признавать происходящее.

Поводом для разбирательства стал иск жительницы Калифорнии против техногигантов Meta и YouTube. Девушка утверждает, что в детстве алгоритмы платформ спровоцировали у нее тяжелую депрессию, суицидальные мысли и зависимость от контента. Она обвиняет корпорации в погоне за прибылью за счет здоровья несовершеннолетних. Представители компаний обвинения отрицают и заявляют о постоянном обновлении инструментов безопасности. Отмечу, что иск также затронул TikTok и Snap – эти компании урегулировали спор в досудебном порядке. Судебное разбирательство продолжается, до финального решения остается несколько недель.

 

ЗАЩИТА ДЕТЕЙ В СЕТИ: НЬЮ-МЕКСИКО ПРОТИВ META

Техногиганты сталкиваются далеко не с первым иском. Власти штата Нью-Мексико обвиняют Meta в содействии сексуальной эксплуатации детей в интернете. В иске говорится, что корпорация, стремясь к росту вовлеченности и прибыли, пренебрегала безопасностью пользователей и не внедрила действенные механизмы защиты несовершеннолетних от преступников. В частности, по данным следствия, платформа предоставляла педофилам доступ к аккаунтам подростков, что в ряде случаев приводило к реальному насилию.

Рауль Торрес, генеральный прокурор Нью-Мексико:

– Meta годами лгала о безопасности своей продукции. Компания заявляла, что не допускает детей младше 13 лет на платформы, однако утечки внутренней документации показали обратное. Руководство осознанно закрывало на это глаза, поскольку привлечение молодежи выгодно для бизнеса. Мы выявили и арестовали людей, которые целенаправленно искали и совращали детей через эти платформы. Их не блокировали и не идентифицировали. Это одна из крупнейших онлайн-площадок для торговли людьми и сексуальной эксплуатации, и мы это доказали.

 

СТРЕЛЬБА В ШКОЛЕ КАНАДЫ: ЗАМЕШАНА OPENAI

С развитием технологий, в том числе искусственного интеллекта, растут и риски их использования злоумышленниками. Инцидент в Канаде может стать показательным примером. Правительство страны вызвало руководство компании OpenAI для объяснений по делу о массовой стрельбе в школе провинции Британская Колумбия. Трагедия в учебном заведении поселка Тамблер-Ридж произошла 10 февраля – погибли девять человек, включая самого нападавшего.

По данным Wall Street Journal, за семь месяцев до трагедии компания могла располагать информацией о возможной подготовке нападения на основе взаимодействия подростка с ChatGPT. Алгоритмы зафиксировали подозрительную активность, однако ограничились лишь временным ограничением доступа. Информация не была передана полиции или властям провинции из-за отсутствия, как утверждается, прямой угрозы. После трагедии данные все же были направлены правоохранительным органам. Власти Канады начали рассматривать новые меры защиты граждан в цифровой среде, включая регулирование чат-ботов.

 

ТЕРРОРИСТЫ ОСВАИВАЮТ НЕЙРОСЕТИ

От школьных стрельб до массовых терактов – искусственный интеллект все чаще становится инструментом радикалов. Стало известно, что запрещенная террористическая группировка ИГИЛ начала обучать сторонников использованию ИИ. Об этом сообщают пропагандистские ресурсы филиала организации – «Вилаят Хорасан», действующего на территории Афганистана. Радикалы публикуют инструкции по применению чат-ботов для информационных кампаний, анонимных исследований и изучения кибербезопасности. Британские эксперты предупреждают – ИИ значительно усиливает радикальную пропаганду и снижает порог входа для подготовки терактов.

Джонатан Холл, независимый эксперт правительства Великобритании по вопросам антитеррористического законодательства:

– Развитие искусственного интеллекта и агентных систем стремительно ускоряется. Все больше возможностей становится доступно террористическим группам в готовом виде. Языковые модели снижают барьеры для создания сложной и целенаправленной пропаганды, что особенно опасно, поскольку экстремисты все чаще используют локальные конфликты и недовольство на родных языках. Радикализация с помощью чат-ботов может набирать обороты.

Как развитие технологий скажется на общественной безопасности в будущем, предсказать сложно. Однако очевидно одно – цифровая среда должна быть готова к новым вызовам.

Автор: Тамерлан Ким.

Теги #IT #безопасность #безопасность детей #социальные сети #искусственный интеллект #США #Канада #OpenAI #новости в мире #24KZ #избранное