Многие уже рассказали нейросетям больше, чем близким друзьям. Есть шутка, что когда-нибудь в будущем ИИ «захватит мир», а пока люди сами добровольно «скармливают» ему личные тайны, пароли, рабочие документы и переписки. Важно знать, что нейросети не гарантируют конфиденциальности. А значит, однажды ваше личное может стать публичным. Какой информацией точно не стоит делиться с ИИ — читайте в статье ОТР. Нейросети собирают информацию, анализируют ее и запоминают, после чего обрабатывают для разных целей. Например, чтобы дополнительно обучать модели или составить более обширный профиль пользователя, предлагая ему персональные рекомендации. И вся эта информация потом хранится на сторонних серверах, что грозит кражей и использованием личных данных мошенниками. Об этом предупредили эксперты проекта «Перезвони сам» московского Департамента информационных технологий. «Поэтому не стоит делиться с нейросетями личными, финансовыми, медицинскими и корпоративными данными, а также любой приватной информацией. Каждый раз, прежде чем доверить что-либо генеративным чат-ботам, задавайте себе вопрос: готовы ли вы к тому, что эти сведения станут известны всему интернету», — обратила внимание руководитель проекта Валентина Шилина. Эксперты дали советы, как безопасно переписываться с ИИ. Создавая промпт (запрос к нейросети), не нужно указывать там информацию, с помощью которой можно идентифицировать вашу личность: фамилию, имя, отчество, адрес, данные паспорта, номер телефона, ИНН и другие сведения. Особенно это касается биометрической информации: сообщения с вашим голосом, сканы лица, отпечатки пальцев. Такие данные невозможно заменить, чего не скажешь о паролях. Проще говоря, лучше полностью обезличить промпт, убрав из него всю персональную информацию. Если есть запрос, связанный с финансами (например, хочется попросить ИИ дать инвестиционные рекомендации), совет тот же: не передавайте свои платежные данные. Речь идет о номере карты, реквизитах счета, ПИН- и CVV-кодах. Нейросети также не следует отправлять фотографии, на которых можно разглядеть карты, счета и другую финансовую информацию. Неприятностью может обернуться и передача медицинских данных: рентгеновских снимков, рецептов на лекарства, планов терапии, выписок из медкарты. Во-первых, это создает риск утечки личной информации. Во-вторых, ИИ может неверно проанализировать данные и дать советы, которые не подойдут под конкретный диагноз. Нейросеть не способна заменить специалиста, ее ответы можно воспринимать разве что как справочную информацию. Это не руководство к действию. Еще важно не делиться с ИИ корпоративными сведениями: бизнес-планами, проектами бюджетов, условиями контрактов, клиентской базой, стратегиями развития. Все это — интеллектуальная собственность и коммерческая тайна компаний. «Попадая в нейросеть, они (эти данные – прим. ред.) могут быть использованы для дообучения модели, и впоследствии любой пользователь способен получить фрагменты этих документов. Это может обернуться кражей данных и юридическими последствиями. Те же требования предъявляются к информации, попадающей под соглашение о неразглашении. Документ подписывается при приеме на работу, и с этого момента сотрудник несет ответственность за сохранность конфиденциальных данных компании», — предупредили эксперты. Чтобы защитить информацию от рисков, для взаимодействия с ИИ лучше установить на свой компьютер локальную нейросеть. Она работает без интернета, анализируя запрос пользователя прямо на его устройстве. Информация в таком случае не передается на сторонние серверы, поэтому утечки и несанкционированный доступ отпадают. При работе с корпоративной информацией эксперты рекомендуют пользоваться внутренними ИИ-инструментами, работающими в защищенном контуре. Они не допускают попадания рабочих данных в открытый доступ. Использование ИИ — не просто риск утраты данных, а их 100-процентная утрата. Об этом ОТР заявил IT-специалист по информационной безопасности и разведке, подполковник спецслужб в отставке Андрей Масалович. «Подозреваю, что большая часть искусственного интеллекта сейчас именно для этого и продвигается. Если бы он действительно позволял управлять миром или решать задачи государственного уровня, его бы засекретили и вот так не пиарили. Раз начался такой оголтелый пиар, значит, заявленных крупных задач он не решает и его используют, чтобы облапошивать бизнес», — выразил мнение он. Эксперт объяснил, как именно это происходит. Он подтвердил, что обычно все сведения, которые обсуждаются с ИИ, в итоге попадают на серверы его владельцев, «и они ими пользуются и шпионят». «Трафик при этом открытый. Ну, четверть трафика вообще в мире открыта, даже у наркоторговцев. То есть перехватчики трафика их (данные – прим. ред.) тоже видят. Ну а, кроме того, платформы владельцев больших языковых моделей — это сейчас лакомый кусочек для всех хакеров. Китайцы охотятся на американцев, американцы — на китайцев, а остальные — на всех подряд. Поэтому серверы платформ со всем своим содержимым попадают еще и в руки хакеров», — предостерег Масалович. Но даже если не брать во внимание этот риск, IT-специалист категорически не рекомендует использовать облачные платформы тем, кому «есть что терять». Речь идет о профессиях, связанных с госуправлением, военно-промышленным комплексом (ВПК), прочими военными задачами, критической инфраструктурой, журналистикой, научным миром, — всем, где корпоративные данные представляют особую ценность. Не все нейросети работают одинаково, но многие сохраняют переписки пользователей как минимум какое-то время. Например, компании-гиганты в сфере ИИ OpenAl и Anthropic (чат-бот ChatGPT и Claude) подтверждают, что даже удаленные чаты могут храниться на серверах до 30 дней, а часть обезличенных данных — использоваться для улучшения ИИ-моделей. Иногда информацию хранят дольше — например, по юридическим причинам. Эксперт по технологиям, директор компании «ИТ-Резерв» Павел Мясоедов отметил в беседе с ОТР, что есть даже отдельная категория мошенничества, которая базируется на попытке «вытащить» информацию о других людях через промпты. Но, хотя объемы данных у нейросетей действительно огромны, это не поисковик с открытой индексацией: нельзя просто вбить имя человека и найти все, что о нем писали пользователи или он спрашивал у ИИ. Информация там преобразована в сложную логику, и нейросеть сама же не найдет ее таким способом. Нет каких-то конкретных подзаголовков и номеров, как в книге. Тем не менее, в обезличенном виде информацию все равно могут использовать, и в некоторых случаях она может указывать на конкретного человека. Мясоедов привел в пример ученого, который работает над каким-то уникальным исследованием. Если нейросети начнут поступать вопросы по этой редкой теме, есть риск, что получится «вытащить» информацию, которую этот ученый обсуждал с ИИ. «Это очень теоретически, но это возможно. Поэтому если вы занимаетесь чем-то очень чувствительным, просто с открытыми нейросетями работать не стоит. Как минимум стоит работать с какими-то профессиональными продуктами, на которые есть подписка, у которых есть определенные функции и лимиты, но это все равно во многом будет доверие к разработчику», — добавил собеседник ОТР. От создателей конкретной ИИ-модели зависит то, как полученная информация будет преобразована. Эксперт обратил внимание, что пока в мире нет единых законов, регламентирующих работу нейросетей. Мясоедов отдельно отметил популярные американские ИИ-сервисы ChatGPT, Claude и Gemini. «В Америке вообще нет никакого закона об ИИ. Эти компании вольны делать все, что хотят, в рамках того правового поля, которое существует. То есть информацию вашу они могут забрать и как угодно интерпретировать. Поэтому если вы работаете с этим, нужно быть осторожным», — подчеркнул специалист. Поэтому многие компании, которые выстраивают свою архитектуру на ИИ-моделях, обычно перестраховываются: информация попадает в эти модели через систему DLP (Data Loss Prevention), предотвращающую утечки конфиденциальных данных. «Простому пользователю, если вы спрашиваете о погоде или том, как что-то починить в доме, бояться нечего. Не очень эта информация будет уникальна, она растворится, скорее всего, в огромных массивах информации», — заключил Павел Мясоедов. Ранее ОТР подробно рассказывал, как правильно общаться с ИИ. Простые промпты вроде «сделай красиво» редко приводят к стоящим результатам. Поэтому есть целое море лайфхаков.