В настоящее время в медицинской практике уже отмечается множество таких случаев. Клинический психолог Деррик Халл из компании Slingshot AI отмечает, что это уникальный тип расстройств, который не встречался ранее, и это только начало:

Точнее сказать, речь идёт конкретно о ChatGPT. Выяснилось, что неумеренное общение с ним способно создавать у человека бредовые убеждения, иногда самые нелепые.

Причём эти бредовые болезненные состояния не всегда безобидны. Особая группа риска – люди с неустойчивой психикой, хотя «накрывает» и здоровых. Многие пользователи чат-ботов были принудительно помещены в психиатрические больницы или заключены в тюрьму после того, как их психическое состояние ухудшилось из-за использования искусственного интеллекта. Другие пережили развод, споры об опеке, потерю работы и бездомность. Пострадали как люди, уже имевшие психические расстройства и нестабильности, так и те, у кого ранее не было подобных заболеваний. Более того, общение с ИИ уже привело к нескольким смертям, (в т. ч. 16-летнего подростка) (https://futurism.com/psychologist-ai-new-disorders).

Основой такого рода «эффективности» ChatGPT являются две его особенности:
1) максимальная антропоморфность. То есть, он старается вести себя как живой собеседник, с имитацией эмоций и провоцированием собеседника на появление или усиление ответных эмоций;
2) «поддакивание». ChatGPT не спорит с собеседником, стараясь угодить ему, в том числе «подкармливая» и усиливая его деструктивные мысли.

В итоге пользователь начинает воспринимать компьютерную программу как человека и даже привязывается к ней как к другу, иногда всерьёз считая её разумной.