Метапамять: все, что вы знали, но давно забыли

Ученые из Нагойского университета (Япония) создают нейронные сети с метапамятью. Можно ли наделить искусственный интеллект сознанием человека?

Память: виртуальная и реальная

Метапамять в научной терминологии известна как метамемория. Перед принятием решения человек вспоминает предыдущий опыт. Метамемория кажется само собой разумеющейся для человека, но этот процесс сложно повторить для модели искусственного интеллекта. По сути, алгоритм должен приобрести опыт, осознать собственные способности и соответственно адаптировать поведение.

Чтобы применить метамеморию, исследователи опираются на концепцию сопоставления с оригиналом в отложенном режиме. На практике это выглядит так. Участник тренировки видит и запоминает объект, проходит тест, где выбирает знакомую вещь из аналогичных. Так вот, исследователи из Нагойского университета профессор Такайя Арита, Юсуке Ямато и Рейджи Сузуки представили модель нейронных сетей, которая способна сопоставлять предмет с образцом по прошествии времени.

Это новаторская технология. Ведь обычные нейронные сети не обладают памятью. Теперь же алгоритм эволюционировал и показывает такие же результаты, как и обезьяны, принимавшие участие в более ранних тестах. Нейронная сеть получила доступ к памяти, способна хранить воспоминания. Кое в чем нейронная сеть даже превосходит некоторых людей: алгоритм с метамеморией учится на собственных ошибках и может адаптироваться к новой среде.

Что, если нейронная сеть слишком много знает?

Автор книги «Верховный алгоритм. Как машинное обучение изменит наш мир» Педро Домингос заявлял: «Люди беспокоятся, что компьютеры станут слишком умными и будут контролировать весь мир. Но проблема в том, что гаджеты слишком глупые… но им уже принадлежит контроль за всем миром».

И действительно, мы сообщаем свои данные нейронным сетям каждым день.

Конечно, можно защитить домашнюю сеть, включив VPN. Так, в мануале ExpressVPN читаем, что эта мера проводит информацию от устройства в сеть по зашифрованному туннелю, защищая от перехвата или атаки. Так мы обеспечиваем безопасность персональных данных.

Зачем это делать? А вы когда-либо задавали вопрос Siri? Включали функцию распознавания лиц на смартфоне? Пользовались виртуальным помощником Alexa? А, может быть, ездили на беспилотной машине? Все это примеры нейронных сетей, и мы ежедневно находимся в их компании. Чтобы полноценно общаться с ними, приходится открывать доступ к файлам на смартфоне, а значит, нейронная сеть знает о нас больше, чем мы можем подумать!

И есть еще кое-что. Взаимодействуя с нейронными сетями, которые обладают метапамятью, мы не знаем, как компьютер воспользуется этой информацией. К какому решению придет? Будет ли это благоприятно для пользователя? И, наконец, однажды изучив информацию, как заставить нейронную сеть забыть эти данные, если, например, появится угроза хакерской атаки или утечки данных? Пока что оставим эти вопросы без ответа.