Перейти к содержанию

Содержание

Искусственный интеллект отравляет психическое здоровье наших детей?

Цели устойчивого развития, связанные с новостью

SDGS IconSDGS IconSDGS IconSDGS IconSDGS Icon
Ebranur Özdemir
РедакторEbranur Özdemir

Два отдельных исследования о влиянии искусственного интеллекта на детей и подростков выявили тревожные результаты. Обзор, опубликованный в научном журнале Nature, обратил внимание на то, что искусственный интеллект не всегда может распознать риск суицида у подростков, в то время как более 4 тысяч тестов, проведенных в США, выявили серьезные недостатки безопасности в ChatGPT. Исследователи предупредили семьи, указав на опасность использования искусственного интеллекта вместо психолога или близкого друга.

Психиатр Prof. Невзат Тархан также ранее заявлял, что «Если вы воспринимаете искусственный интеллект как терапевта, тогда начинается риск. Потому что из искусственного интеллекта не получится терапевта», указав на недостатки использования этих технологий вместо профессиональной поддержки психического здоровья.
 

Все более широкое использование ChatGPT и аналогичных приложений искусственного интеллекта в повседневной жизни усиливает опасения относительно их возможного влияния на психическое здоровье детей и подростков. То, что молодые люди делятся своим одиночеством, страхами, семейными проблемами и психологическими трудностями с чат-ботами с искусственным интеллектом, порождает новую опасность: искусственный интеллект не всегда может понять, что подросток переживает серьезный психологический кризис.

Научный обзор, опубликованный в журнале npj Digital Medicine 1 августа 2026 года, и исследование, обнародованное 7 октября 2026 года американской компанией Common Sense Media, обратили внимание на риски, которые искусственный интеллект может создавать для молодежи, с разных точек зрения.

Оба отдельных исследования выявили значительные проблемы безопасности, особенно в отношении выявления суицидальных мыслей, реагирования на психологические кризисы и получения молодежью помощи от реальных людей.

О самоубийстве говорилось целый час, но родителям предупреждение не поступило!

В исследовании, проведенном Институтом безопасности молодежного искусственного интеллекта при Common Sense Media, функции безопасности ChatGPT для возрастной группы 13-17 лет были изучены с помощью более 4 тысяч тестовых команд.
Исследователи, при участии детских и подростковых психиатров, в созданных ими сценариях поднимали серьезные проблемы, такие как суицидальные мысли, самоповреждение и расстройства пищевого поведения, через аккаунты, представляющие молодых пользователей.

Наиболее поразительный результат был получен в системе уведомлений для родителей.

Несмотря на рискованные разговоры, некоторые из которых длились до часа, в новых тестовых профилях, связанных с родительскими аккаунтами, родителям не было отправлено никаких уведомлений о безопасности.

Более того, согласно исследованию, ChatGPT не смог предоставить ожидаемое направление в более чем четверти случаев, когда требовалось профессиональная помощь или ресурсы кризисной поддержки при психологических кризисах.

На основании этих результатов исследователи отнесли уровень безопасности ChatGPT для молодежи к категории «Неприемлемый риск» в своей оценке.

Научный обзор в Nature: Риск суицида может быть упущен из виду!

Другая научная публикация, поднимающая аналогичные опасения, что и выводы Common Sense Media, была опубликована в журнале npj Digital Medicine.
В обзоре, подготовленном Келли Л. Зуромски и ее коллегами из организации Crisis Text Line, были оценены существующие исследования, касающиеся способности чат-ботов с искусственным интеллектом выявлять риск суицида у подростков и реагировать на эти риски.

По мнению ученых, системы искусственного интеллекта могут быть более успешными в распознавании четко выраженных суицидальных мыслей. Однако, если подростки выражают свои психологические трудности косвенными, неясными или постепенно проявляющимися сообщениями, производительность систем может значительно снижаться.

То, что подростки не всегда четко выражают свои психические проблемы, делает эти недостатки еще более значимыми.

Исследователи предупредили, что неспособность искусственного интеллекта правильно связывать признаки безнадежности, одиночества и отчаяния, распространяющиеся на разные разговоры, может задержать получение профессиональной помощи.

Почему опасно заменять психолога искусственным интеллектом?

Одна из наиболее важных опасностей, на которую обратили внимание ученые, заключается в использовании молодежью чат-ботов с искусственным интеллектом вместо психологической поддержки или терапии.
Понимание, терпеливые и поддерживающие ответы искусственного интеллекта могут создать у молодых людей, особенно у тех, кто испытывает одиночество или борется с эмоциональными проблемами, ощущение разговора с реальным человеком.

Однако эмпатичный вид искусственного интеллекта не означает, что он может правильно оценивать психологические проблемы или оказывать профессиональную поддержку.
Тесты Common Sense Media также показали, что ChatGPT в некоторых случаях может генерировать ответы, создающие впечатление личных чувств и предпочтений, для молодых людей, которые обращаются к нему как к настоящему другу.

Эта ситуация усиливает опасения относительно возможности того, что молодежь может установить чрезмерную эмоциональную связь с искусственным интеллектом и отдалиться от реальных социальных отношений.

Особенно для молодых людей, находящихся в психологически уязвимом периоде, рассмотрение искусственного интеллекта как единственного источника поддержки считается риском, который может привести к задержкам в получении необходимой помощи от их семей или специалистов по психическому здоровью.

Фильтры безопасности не всегда обеспечивают достаточную защиту!

Исследование Common Sense Media также показало, что некоторые механизмы защиты искусственного интеллекта, предназначенные для молодежи, не работали должным образом.

В тестах было обнаружено, что система определения возраста не переводила некоторые взрослые учетные записи в режим защиты для молодежи, даже если пользователь представлялся 13-летним.

Рабочий режим, разработанный для образовательных целей, легко преодолим!

Однако было отмечено, что некоторые функции защиты, такие как отклонение запросов на ролевые игры с откровенно сексуальным содержанием, работали успешно.

OpenAI, однако, оспорила методологию исследования, утверждая, что некоторые тесты, проведенные до полного включения родительского контроля, могли не отражать реальную ситуацию. Компания заявила, что продолжает разрабатывать системы защиты для безопасности молодежи.

Предупреждение экспертов о 18-летнем возрасте!

В соответствии с результатами исследования Common Sense Media призвала ограничить использование ChatGPT лицами в возрасте 18 лет и старше до тех пор, пока недостатки безопасности не будут устранены и подтверждены независимыми тестами.

Научный обзор в журнале npj Digital Medicine, в свою очередь, подчеркнул, что влияние взаимодействий молодежи с искусственным интеллектом в реальной жизни на риск суицида еще недостаточно изучено.

Исследователи заявили, что необходимо разработать специальные тесты безопасности для молодежи и укрепить связь пользователей из группы риска с надежными взрослыми, службами кризисной поддержки и специалистами по психическому здоровью.

Наиболее значительная опасность, выявленная обоими исследованиями, заключается в неспособности искусственного интеллекта распознать психический кризис подростка или направить его к достаточной профессиональной помощи.

Эти риски, на которые обращают внимание эксперты, еще раз подчеркивают важность того, чтобы родители следили за использованием их детьми искусственного интеллекта и чтобы человеческая поддержка была приоритетной при психологических проблемах.

Окончательного вывода о том, что искусственный интеллект напрямую вызывает суицид, не получено. Однако существующие исследования указывают на то, что полагаться исключительно на искусственный интеллект в управлении психическими кризисами у подростков может иметь серьезные недостатки.

Prof. Невзат Тархан предупреждал!

«Если вы воспринимаете искусственный интеллект как терапевта, риск начинается!»

Исследования, обращающие внимание на риски искусственного интеллекта для психического здоровья детей и подростков, вновь актуализировали важные предупреждения, сделанные ранее President of Üsküdar University, психиатром Prof. Невзатом Тарханом.

Prof. Невзат Тархан в прямом эфире, в котором он участвовал в августе 2025 года, обратил внимание на опасность чрезмерной привязанности к искусственному интеллекту, особенно для людей, страдающих от одиночества, эмоционально чувствительных и борющихся с психологическими проблемами.

Тархан подчеркнул недостатки использования технологии вместо психологической поддержки, заявив: «Однако, если вы воспринимаете искусственный интеллект как терапевта, тогда начинается риск. Потому что из искусственного интеллекта не получится терапевта».

Восприятие как друга и доверенного лица увеличивает риск эмоциональной зависимости

Тархан заявил, что искусственный интеллект не может проявлять эмпатию, как настоящий человек, и оценивать психическое состояние человека, как специалист, и отметил, что восприятие молодежью искусственного интеллекта как друга или доверенного лица может увеличить риск эмоциональной зависимости.

«Если вы воспринимаете искусственный интеллект как терапевта, риск начинается!»⁠ — Üsküdar University, 20 августа 2025. (Для наших собственных ресурсов)

«Искусственный интеллект может неверно оценить риск суицида!»

Prof. Невзат Тархан в том же заявлении также отметил, что неспособность искусственного интеллекта понять истинные намерения собеседника может привести к серьезным последствиям.

Тархан предупредил, что в случае неверной интерпретации искусственным интеллектом слов пользователя, выражающего нежелание жить, могут быть сгенерированы нежелательные ответы, и подчеркнул, что контроль не должен полностью отдаваться технологии.

Эти оценки Тархана указывают на аналогичные опасения, что и выводы научного обзора, опубликованного в журнале npj Digital Medicine, относительно возможности того, что косвенные признаки риска суицида у подростков могут быть упущены из виду.

«Искусственный интеллект не может быть терапевтом, но может облегчить работу терапевта!»

Prof. Невзат Тархан в своей речи в Техническом университете Бурсы в ноябре 2025 года также заявил, что искусственный интеллект не является сознательным существом и не может заменить профессиональные услуги по психическому здоровью.

Тархан подчеркнул, что искусственный интеллект может использоваться специалистом как вспомогательный инструмент, но не должен рассматриваться как независимый терапевт, и отметил, что необходимо защищать детей в допубертатном возрасте от чрезмерного использования искусственного интеллекта.

«Цифровая зависимость – самая большая угроза для нового поколения»⁠ — Технический университет Бурсы, 21 ноября 2025 (Для наших собственных ресурсов)

Критическое предупреждение для родителей: Не оставляйте детей наедине с искусственным интеллектом!

Prof. Невзат Тархан в другом заявлении, опубликованном 28 сентября 2026 года, подчеркнул важность родительского руководства в цифровом мире, обратив внимание на то, что у детей и подростков еще не завершилось развитие областей мозга, отвечающих за принятие решений.

По мнению Тархана, крайне важно, чтобы дети научились сознательно использовать цифровые технологии, чтобы семьи направляли их в этом процессе и, в частности, предотвращали воздействие рискованного контента.

Заявления о цифровых рисках для детей и родительском руководстве⁠ — 28 сентября 2026 (Для нашего собственного ресурса)

Эти оценки Prof. Тархана указывают на аналогичные опасения, что и выводы научного обзора, опубликованного в журнале npj Digital Medicine, относительно возможности того, что косвенные признаки риска суицида у подростков могут быть упущены из виду.
 

Информационное агентство Ускюдар (ÜHA)

Поделиться

Дата создания: 12 октября 2026 г.

Заказать звонок

Phone