Можно ли стать бессмертным в памяти нейросетей? Новый сервис уже выставляет оценки
In The Weights предлагает проверить, насколько хорошо ИИ «помнит» человека
RusPhotoBank
От поиска в Google к поиску в нейросетях
Привычный интернет-поиск стремительно меняется. Если раньше пользователи вводили своё имя в Google, чтобы понять, насколько они заметны в сети, то сегодня всё больше информации люди получают через чат-ботов и языковые модели. На этом фоне появляется новый вопрос: знают ли современные нейросети о конкретном человеке и что именно они могут о нём рассказать?
Именно на этой идее построен сервис In The Weights, созданный бывшими сотрудниками OpenAI Адамом Димсоном и Флинном. Проект предлагает оценить присутствие человека в «памяти» искусственного интеллекта и сравнить результаты между различными моделями.
Как работает In The Weights
Сервис обращается сразу к нескольким ИИ-моделям и анализирует, насколько уверенно они могут идентифицировать человека по имени. Затем результаты сводятся в единый рейтинг, который показывает уровень узнаваемости пользователя в мире искусственного интеллекта.
По сути, In The Weights становится своеобразной альтернативой традиционному vanity search — практике поиска собственного имени в интернете. Только теперь вместо поисковых систем используется искусственный интеллект.
Некоторые модели способны выдавать подробную информацию о человеке, тогда как другие затрудняются с ответом или вовсе не могут определить, о ком идёт речь. Это позволяет увидеть, насколько по-разному различные ИИ воспринимают одни и те же данные.
Почему авторы решили создать такой инструмент
По словам создателей проекта, идея родилась после ухода из OpenAI. Разработчики хотели заняться чем-то необычным и творческим, а также обратить внимание на меняющуюся роль поиска в эпоху больших языковых моделей. Один из авторов пришёл к выводу, что традиционный поиск собственного имени постепенно теряет актуальность по мере того, как пользователи всё чаще обращаются к ИИ за ответами.
Кроме того, разработчиков заинтересовала мысль о том, что огромное количество человеческих биографий, достижений и цифровых следов в той или иной форме оказывается закодировано внутри нейросетей. Именно эта идея легла в основу сервиса.
Рейтинг, который вызывает эмоции
Авторы признают, что изначально рассматривали проект как любопытный эксперимент. Однако после запуска сервис быстро привлёк внимание пользователей. Как отмечает создатель In The Weights, многим оказалось интересно узнать, насколько заметный след они оставили в данных, на которых обучались современные модели искусственного интеллекта.
Дополнительный интерес подогревает возможность сравнивать результаты между людьми. Благодаря этому обычная проверка своей известности превращается в своеобразное соревнование за место в цифровой памяти ИИ.
Что планируют изучать дальше
Разработчики намерены продолжить исследование особенностей работы языковых моделей. В частности, их интересует, почему разные версии одной и той же модели могут выдавать разные результаты, существуют ли предпочтения к определённым категориям людей и кого нейросети знают лучше всего. Также команда хочет обратить внимание на людей, которые достаточно заметны в профессиональной среде, но по каким-либо причинам остаются мало представлены в открытых интернет-источниках.
Новый показатель цифровой известности
Появление In The Weights отражает более широкий процесс трансформации интернета. Если раньше главным индикатором присутствия человека в сети были результаты поисковой выдачи, то теперь всё большую роль начинает играть то, насколько хорошо его распознают системы искусственного интеллекта. В результате цифровая репутация постепенно получает новое измерение — место человека в памяти нейросетей.