Глава кафедры компьютерной инженерии, профессор доктор Бурхан Пекташ, заявивший, что возможность контроля или причинения вреда людям искусственным интеллектом нельзя полностью исключать, сказал: «Трудно утверждать, что такие дистопические сценарии совершенно невозможны. Однако существующие системы искусственного интеллекта (ИИ) работают на основе заранее определенных целей и не могут формировать свои собственные цели».
Профессор доктор Бурхан Пекташ, подчеркнувший, что в наше время быстрого развития искусственного интеллекта для предотвращения потенциальных угроз этой технологии необходимо более быстрое развитие глобального сотрудничества и этических стандартов, заявил: «Хотя большая часть этого носит гипотетический характер, быстрое развитие ИИ может представлять реальную угрозу в долгосрочной перспективе, если его не контролировать».

Ректор кафедры компьютерной инженерии факультета инженерии и естественных наук (MDBF) Ускюдарского университета, профессор доктор Бурхан Пекташ оценил вероятность уничтожения человечества искусственным интеллектом.
Что такое общий искусственный интеллект и каковы его риски?
Профессор доктор Бурхан Пекташ, оценивая слова Джеффри Хинтона, известного как «отец искусственного интеллекта», о растущей вероятности того, что технология искусственного интеллекта уничтожит человечество в ближайшие 30 лет, заявил: «Предупреждение Джеффри Хинтона отражает обеспокоенность тем, что механизмы контроля могут оказаться недостаточными в процессе развития искусственного интеллекта (ИИ). Это мнение особенно связано с вероятностью появления систем, называемых «общим искусственным интеллектом» (ОИИ), обладающих способностью к обучению и принятию решений, аналогичной человеческой. Риски таковы: Автономный контроль: ИИ определяет свои собственные цели и игнорирует человеческие интересы для их достижения. Риск вооружения: Разработка автономного оружия и опасное использование ИИ в неверных руках. Манипуляция информацией: Производство ложной информации может манипулировать выборами и процессами принятия общественных решений. Экономический контроль: Монополизация ИИ крупными компаниями и увеличение неравенства в доходах».
Физические, экономические, социальные и культурные угрозы
Профессор доктор Бурхан Пекташ, заявивший, что угрозы ИИ не ограничиваются только физическим разрушением, но также включают социальные, экономические и культурные трансформации, перечислил следующие угрозы:
«Физические угрозы: Автономные системы вооружения, приложения ИИ с уязвимостями безопасности.
Экономические угрозы: Масштабная безработица в результате замещения ИИ рабочей силы.
Социальные угрозы: Цифровое неравенство, уничтожение конфиденциальности и формирование обществ наблюдения.
Культурные угрозы: Эрозия человеческих ценностей и оригинального творчества в конкуренции с системами ИИ».
Достаточны ли этические нормы и стандарты безопасности?
Профессор доктор Бурхан Пекташ также предоставил следующую информацию относительно разработки этических правил и стандартов безопасности в технологиях искусственного интеллекта:
«Хотя в этой области достигнуты некоторые успехи (например, Закон ЕС об ИИ), разработка стандартов на глобальном уровне все еще продвигается медленно. Основные причины этого: Отсутствие международного сотрудничества: Конфликты интересов между разными странами. Скорость технологий: Скорость развития ИИ превышает скорость внедрения регулирующих мер. Влияние компаний: Лоббистская деятельность крупных технологических компаний».
Профессор доктор Бурхан Пекташ, заявивший, что лоббистская деятельность крупных технологических компаний замедляет процесс, сказал: «Необходимо создать правила, имеющие глобальную обязательность. Должны быть созданы независимые надзорные органы. Этическая осведомленность должна быть повышена посредством образовательных программ».
Каковы предлагаемые решения?
Профессор доктор Бурхан Пекташ, также указавший на шаги, которые необходимо предпринять для предотвращения выхода искусственного интеллекта из-под контроля, перечислил свои предложения по предотвращению выхода из-под контроля следующим образом:
«Прозрачность: Общественность должна быть проинформирована о том, как работают все модели ИИ.
Тесты безопасности: Должны проводиться независимые тесты, гарантирующие, что системы ИИ не причинят вреда человеку.
Международное сотрудничество: Должны быть заключены обязательные соглашения между всеми странами.
Этический аудит: Компании, разрабатывающие ИИ, должны регулярно проходить этические аудиты.
Механизмы «аварийного отключения» (Kill Switch): Должны быть применены технические решения, обеспечивающие остановку ИИ в случае возникновения нежелательной ситуации».
Могут ли дистопические сценарии стать реальностью?
Профессор доктор Бурхан Пекташ, заявив, что возможность контроля искусственным интеллектом людей или причинения им вреда не может быть полностью исключена, заключил: «Трудно сказать, что такие дистопические сценарии совершенно невозможны. Однако существующие системы ИИ работают на основе заранее определенных целей и не могут формировать свои собственные цели. Тем не менее; Рискованные сценарии: Автономные системы, работающие с неправильными алгоритмами, или их злоупотребление злоумышленниками могут представлять опасность. Доля реальности: Хотя большая часть этих рисков сегодня носит гипотетический характер, быстрое развитие ИИ может представлять реальную угрозу в долгосрочной перспективе, если его не контролировать».