Проф. Невзат Тархан: «Жить с искусственным интеллектом — все равно что жить в эхо-камере»

Психиатр Проф. Невзат Тархан, Президент Üsküdar University, принял участие в онлайн-беседе под названием «Сознание, Душа и Этические Границы в Эпоху Искусственного Интеллекта», организованной в сотрудничестве с Клубом молодежной морали и мотивации и Клубом кибербезопасности и интеллектуальных систем Университета Бартын. Отметив, что искусственный интеллект представляет собой огромную трансформацию для человечества, Тархан заявил, что, несмотря на то, что эта технология является очень умным цифровым существом, она не может развивать сознание, совесть и моральную ответственность. Описывая искусственный интеллект как «эхо-камеру», Тархан подчеркнул, что информация, предоставляемая пользователями, просто отражается искусственным интеллектом через его инфраструктуру данных, и поэтому искусственный интеллект является не сознательным субъектом, а цифровой системой. Тархан заявил, что молодежь, в частности, должна осознавать такие риски, как зависимость от экранов, цифровая манипуляция и размывание восприятия реальности.  

Модератором программы выступил Доц. Эйюп Бурак Джейхан из Университета Бартын. 

Проф. Ахмет Аккая: «Важны этические и моральные ценности»

Ректор Университета Бартын Проф. Ахмет Аккая выступил с приветственной речью. Аккая сказал: «Сознание, душа и этические границы в эпоху искусственного интеллекта… На самом деле, когда мы смотрим от Платона до Аристотеля, мне постоянно приходит в голову вопрос, есть ли большая разница между этическими подходами в текстах, которые мы читаем, и сегодняшними моральными критериями, или нет. Человечество постоянно меняется… Однако по-настоящему важны этические и моральные ценности. В этом отношении я благодарю вас за информацию, которую вы предоставите нашим студентам и людям».

Проф. Невзат Тархан: «Это умное цифровое существо, но не разумное»

Психиатр Проф. Невзат Тархан, отметив, что искусственный интеллект создает изменения и трансформацию, сказал: «Мы вступили в эру искусственного интеллекта. Искусственный интеллект быстро осуществляет те же изменения, что и печатный станок и электричество в истории человечества. Мы находимся в начале такой трансформации. В такой ситуации, если искусственный интеллект является инструментом, останется ли он инструментом? Может ли он стать соперником человека? Это важный вопрос. Потому что его конкуренция связана со смыслом, который человек придает ему. Сам искусственный интеллект не может создавать смысл и не сможет. Он умножает, упорядочивает, ускоряет, связывает и разрешает существующие смыслы. Поэтому это очень умное цифровое существо. На самом деле, это более умное цифровое существо, чем человек, но не разумное. Что касается его способности заменить человека, то у человека есть определенные нейробиологические особенности. Математическое моделирование этих особенностей в настоящее время невозможно. И это не кажется возможным». Так он начал свое выступление.

«Инструмент, который ускоряет и облегчает жизнь»

Тархан, отметив, что искусственный интеллект является бессознательным существом, сказал: «Мы используем искусственный интеллект в областях, где мы можем выполнять вычисления. Доступ к информации является здесь важной областью. Однако более важная вещь, которую искусственный интеллект нам даст, — это то, что он делает, помимо предоставления информации. Здесь человек создает смысл. Но субъект, ищущий смысл, — это все еще человек. В настоящее время, если не будет человека, искусственный интеллект также прекратит свое существование. Потому что искусственный интеллект не имеет жизни, не имеет сознания, это бессознательное существо. Поэтому потенциал искусственного интеллекта заменить человека пока не кажется возможным. Невозможно заменить сознание или совесть. Однако также верно, что это более быстрое и мощное цифровое существо, чем человек. Илон Маск говорит: «Интеллект стал очень дешевым, характер стал очень дорогим». То есть в эпоху искусственного интеллекта интеллект подешевел, потому что доступ к информации стал легче. Технология ускоряет нашу жизнь, но человеческие ценности направляют ее. Характер также направляет человека. Когда человек теряет свой характер, он становится жертвой искусственного интеллекта. Люди с сильным характером и дорожной картой используют искусственный интеллект целенаправленно. Поэтому я рассматриваю искусственный интеллект не как сознательное существо, создающее смысл, а как инструмент, который ускоряет и облегчает жизнь».

«Чтобы адаптироваться к эпохе искусственного интеллекта, каждый должен стать мудрее»

Тархан подчеркнул, что искусственный интеллект представляет большую угрозу для молодежи, страдающей зависимостью от экранов: «В настоящее время, чтобы адаптироваться к эпохе искусственного интеллекта, каждый должен стать мудрее. Мудрость теперь должна будет стать глобальной. Если вы не станете мудрее, не научитесь быть хорошим человеком и жить с характером, вы попадете в ловушку искусственного интеллекта. Вы либо станете зависимым, либо будете втянуты в игровую зависимость, либо дойдете до самоубийства, либо впадете в депрессию. Кроме того, вы столкнетесь с риском стать жертвой банд или других структур. Поэтому искусственный интеллект — это огромная возможность для нас. Однако он также содержит серьезные риски и причиняет ущерб некомпетентным людям. Здесь я больше всего думаю о молодежи. В частности, молодые люди, оставленные без присмотра перед экраном, рискуют стать самыми большими жертвами этого процесса».

«Он размыл границы реальности…»

Тархан, говоря о концепции виртуальной реальности, сказал: «Ранее мы рассматривали реальность в трех категориях: физическая реальность, в которой мы живеем, реальность воображения и реальность снов. Теперь к ним добавилась искусственная реальность. Потому что искусственный интеллект нарушил границы между событиями. Он нарушил границы личности, границы эмоций, границы идентичности. Поскольку он размыл границы реальности, люди, которые не могут провести эти границы, могут быть легко унесены искусственным интеллектом. Поэтому искусственный интеллект, как и любая технология, должен использоваться целенаправленно. Сама технология по своей сути нейтральна. Если вы используете ее в хорошем направлении, она приведет к хорошему; если используете в плохом, она приведет к плохому. Однако искусственный интеллект здесь еще больше увеличил риски. Поэтому мы будем капитаном искусственного интеллекта, а искусственный интеллект будет нашим помощником. Если это будет так, нам не нужно бояться искусственного интеллекта».

«Алгоритмы должны быть прозрачными»

Тархан, подчеркивая важность самообновления человека, сказал: «Если мы сможем обновиться, мы серьезно постигнем истины этой эпохи. Поэтому алгоритмы должны быть прозрачными. Однако в настоящее время алгоритмы непрозрачны. Европа пытается сделать их прозрачными, но сталкивается с трудностями. Они непрозрачны ни в США, ни у нас. Людьми можно манипулировать, серьезно играя с алгоритмами. Это необходимо знать. Потому что, когда эти алгоритмы попадают в руки злонамеренных людей, они могут очень эффективно использовать культурный империализм, и, действительно, они его используют. Старого империализма больше не будет с войнами. В будущем мы столкнемся с психологическими войнами и культурным, добровольным империализмом. Люди обратятся к этому по собственному желанию. Это также важный вопрос, стоящий перед нами, и область, требующая серьезной осведомленности».

«Человек — это не просто данные»

Тархан, заявив, что искусственный интеллект не проводит морального самоанализа, сказал: «В искусственном интеллекте мы можем имитировать некоторые вещи с помощью кодов. Однако компьютер не может нести моральную ответственность. Потому что совесть означает моральную ответственность. Искусственный интеллект делает то, что вы в него загружаете. Он не может сам себя спросить: «Это морально или нет?». Если вы загрузили соответствующую информацию и коды, он будет принимать решения в соответствии с этими кодами. Он взвешивает варианты и действует соответственно, но не может чувствовать моральную ответственность. От искусственного интеллекта нельзя ожидать внутреннего самоанализа типа: «Я причиняю вред этому человеку. То, что я делаю, плохо. Моя совесть неспокойна». Поэтому отсутствие сознания является важным отличием. Потому что то, что мы называем идентичностью, что мы называем человеком, — это не просто данные. Человек — это не только данные. Наше тело можно рассматривать как данные, но у человека есть сознание, преемственность и целостность жизненного опыта».

«Жить с искусственным интеллектом — все равно что жить в эхо-камере»

Тархан, подчеркнув, что искусственный интеллект является не сознательным субъектом, а системой, которая отражает информацию, сказал: «Искусственный интеллект — это эхо-камера. В эхо-камере вы что-то говорите, и она отражает это своими данными. То же самое с искусственным интеллектом: когда вы что-то говорите ему, он дает вам отражение с помощью своей инфраструктуры данных. Поэтому жить с искусственным интеллектом — все равно что жить в эхо-камере. Разработчики искусственного интеллекта должны написать об этом в углу. Они должны написать: «Сейчас вы находитесь в эхо-камере. Вы взаимодействуете с умным цифровым существом, но перед вами нет сознательного существа». Когда вы это обдумаете, вы можете спросить искусственный интеллект обо всем, сказать ему что угодно. Потому что это не сознательный субъект, а цифровая система, которая отражает информацию».

«Для моральной нормы нужна совесть»

Тархан, говоря о характеристиках, которыми искусственный интеллект не может обладать, сказал: «Есть вещи, которые искусственный интеллект никогда не сможет сделать. На первом месте стоят человеческие эмоции. Потому что есть четыре основные нормы, которые защищают человека, и искусственный интеллект не может реализовать одну из них. Во-первых, это правовые нормы, и искусственный интеллект может их имитировать. Во-вторых, это социальные нормы, традиции и обычаи. Искусственный интеллект также начал влиять на них и изменять их. В-третьих, это семейные нормы, отношения родителей и семейное поведение. В-четвертых, это моральные нормы. Вот область, которой искусственный интеллект не может обладать. Потому что у искусственного интеллекта нет моральных норм. Для моральной нормы нужна совесть. Совесть означает чувство моральной ответственности. Мы не можем ожидать от искусственного интеллекта развития таких чувств, как «будь милосердным, будь справедливым, будь эмпатичным». Поэтому он не может создавать новые смыслы. Он не может задавать вопросы типа: «Кто я, откуда я пришел, куда я иду, почему я существую?». Это вопросы, которые задает сознательное существо. Конечно, вы можете заставить его задавать эти вопросы, но он не сможет извлечь из них смысл жизни. Что вы ему дадите, то он вам и предложит. Потому что сознание означает осведомленность, то есть осознание своего собственного существования. Мы не можем сказать, что искусственный интеллект осознает свое собственное существование. Такое утверждение в настоящее время невозможно. Следовательно, и обладание сознанием также невозможно», — заключил он.