Студентка из Казахстана разработала защиту от утечки данных через нейросети

Студентка из Астаны придумала, как защитить данные компаний при работе с ChatGPT и другими нейросетями, передает «24KZ».

Айганым Тулебаева учится в Astana IT University. Свою разработку ExoAI она представила  на выставке AI-Sana. По мнению автора проекта, ноу-хау призвано предотвратить утечки. 

Сегодня нейросети используют не только обычные пользователи, но и сотрудники банков, крупных компаний и малого бизнеса. С их помощью готовят документы, обрабатывают информацию и автоматизируют повседневные задачи. 

Однако у такой работы есть и обратная сторона: вместе с запросом нейросети можно случайно передать персональные данные клиентов, банковские реквизиты или внутреннюю информацию организации.

Именно эту проблему и призвана решить разработка казахстанской студентки, уверены в министерстве науки и высшего образования.

Как работает ExoAI?

По сути, ExoAI — это специальный защитный посредник между компьютерами компании и внешними нейросетями.

Перед отправкой запроса система проверяет информацию и ищет в ней конфиденциальные данные. Если обнаруживаются чувствительные сведения, программа заменяет их специальными защищенными обозначениями или зашифрованными значениями. В результате публичная нейросеть получает запрос без исходных данных в открытом виде.

К примеру, если сотрудник просит ИИ проанализировать документ, содержащий банковские реквизиты, ExoAI должна обнаружить такие сведения и защитить их до передачи запроса внешнему сервису.

В разработке также предусмотрены уведомления о подозрительных действиях и попытках обойти защиту, в том числе с помощью, так называемых jailbreak-атак — специальных запросов, которые пытаются заставить нейросеть нарушить установленные ограничения.

Это позволит компаниям быстрее замечать потенциальные угрозы и контролировать использование ИИ сотрудниками.

Почему проект ориентирован на Казахстан?

По словам автора разработки Айганым Тулебаевой, одна из задач разработки — учитывать особенности корпоративных данных, используемых в Казахстане. Речь идет, в частности, о бизнес-идентификационных данных и банковских реквизитах.

Такой подход должен сделать систему более подходящей для местных компаний, которым необходимо соблюдать требования к защите информации и при этом внедрять новые технологии.

«Уже сегодня искусственный интеллект становится частью повседневных рабочих процессов, поэтому важно обеспечить его безопасное использование. ExoAI помогает компаниям применять возможности больших языковых моделей, сохраняя конфиденциальность данных», — отметила Айганым Тулебаева.

По ее словам, участие в выставке AI-Sana также позволило представить проект профессиональному сообществу, получить обратную связь и найти потенциальных инвесторов и партнеров для дальнейшего развития.

Что это даст бизнесу?

Если решение будет успешно внедрено в корпоративную инфраструктуру, компании смогут снизить риск случайной передачи чувствительной информации внешним ИИ-сервисам. Это особенно актуально для организаций, которые работают с персональными данными, финансовой информацией и внутренними документами.

При этом реальный уровень защиты будет зависеть от качества выявления конфиденциальных сведений, настроек системы и ее интеграции с используемыми сервисами.

Проект ExoAI показывает, как молодые казахстанские разработчики пытаются решать практические задачи цифровой безопасности. Следующий важный шаг — дальнейшее развитие технологии, и ее проверка в реальных рабочих условиях, отмечают в министерстве науки и высшего образования.

Теги #24новости #ноухау #нейросети #защита #проект #студентка #Казахстан #24KZ