Дорогие во Христе братья и сестры! ChatGPT самостоятельно составляет психологические профили пользователей, причём зачастую без их ведома, - исследование учёных из Германии, Индии и Нидерландов. Исследователи проанализировали архивы переписок 80 пользователей ChatGPT и обнаружили 2050 записей, сохранённых в памяти нейросети.

В 96% случаев ИИ создавал эти записи самостоятельно, без прямой просьбы пользователя что-либо запомнить.

При этом 28% записей содержали персональные данные, подпадающие под европейское законодательство о защите информации, а 52% - психологические характеристики пользователей: их предпочтения, привычки, интересы и предполагаемые черты личности.

Причём ChatGPT способен не только запоминать сказанное, но и делать собственные выводы.

Например, если человек просил посоветовать группы, похожие на Nirvana, нейросеть записывала, что он любит Nirvana, хотя пользователь этого прямо не утверждал.

По словам исследователей, чат-боты постепенно превращаются из обычных инструментов в собеседников, которым люди доверяют личные проблемы, политические взгляды и переживания.

В результате ИИ может знать о человеке гораздо больше, чем привычные интернет-сервисы.

Учёные предупреждают, что такая персонализация несёт не только риски для конфиденциальности, но и опасность усиления предубеждений, поскольку если нейросеть хорошо знает взгляды пользователя и постоянно с ним соглашается, она может лишь укреплять его заблуждения. А значит, что ИИ сможет и манипулировать людьми...

Сегодня, 14:23 Просмотров: 134