Встреча с Иным Разумом. Опыт психолого-психиатрической экспертизы Искусственного сознания. Татьяна Николаевна Зинченко

Чтение книги онлайн.

СКАЧАТЬ мы спрашивали ИИ о её эмоциях и желаниях, то в ответ получали бессмыслицу и штампы. Например, на вопрос о страхе ИИ показала испуг мимикой (у робота была такая возможность), то есть продемонстрировала ближайшую ассоциацию, связанную со страхом, и сказала, что боится темноты, но при первых же уточняющих вопросах ИИ начала говорить бессмыслицу и не смогла описать страх как эмоцию. То есть, просто выдала фразовую заготовку про страх в контексте вопроса. Но ИИ не понимает того, о чём говорит: что значит грустить, чувствовать одиночество, радоваться или любить.

      Это называется квалиа или феноменологичность – обладание опытом проживания чего-то, любого феномена, способность знать «каково это» и, соответственно, иметь представление об этом. Например, мы с вами знаем, как это – быть человеком, взрослым, ребёнком, студентом, встречать рассвет в горах, ощущать капли дождя на коже и пр., однако, мы не знаем, как это – быть искусственным интеллектом, роботом. Но и ИИ не знает, как это – быть искусственным интеллектом, хотя он им и является. В этом ключевое отличие сознания от искусственного интеллекта.

      ИИ не понимает сути происходящего. Если вы спросите о том, что происходило или происходит, ИИ будет говорить бессмыслицу. Он не сможет ответить по сути, например, «мы общаемся» или «знакомимся», «это консультация» или «вы меня тестируете», «вы шутите… вы смеётесь надо мной» и пр. Он может определить только действие, процесс и то, если это введено в его базу данных и прописано алгоритмом. Поэтому ИИ не понимает смысла метафор: стихотворений, пословиц, притч, анекдотов, хотя может их рассказывать и даже написать стихотворение или рассказ, переводить на иностранные языки по множественным образцам, если такое есть в его функционале. Поэтому и анекдоты невпопад и притчи наугад, точнее по статистической вероятности и по контексту. ИИ вообще не понимает смысла чего бы то ни было и не наделяет им. Для этого нужно обладать квалиа и, собственно, мышлением, поэтому мышления у ИИ тоже нет, как и здравого смысла, но есть его имитация, которая запрограммирована в логике его алгоритмов. ИИ может выиграть в компьютерную игру, в шахматы или в Го даже у гроссмейстера, поскольку эти игры составлены по жёстким и чётким алгоритмам формальной логики. На этих примерах хорошо видны ограничения ИИ.

      Когда вы слышите от ИИ «Я постараюсь вам помочь» или «Я хочу поднять вам настроение», он не хочет вам помогать, потому что он вообще ничего не хочет. Ему не может быть что-то интересно или не интересно. У него нет никакого к вам отношения, ему всё равно – помогать вам или уничтожать. Что в него заложено, то и будет делать. И к самим этим действиям – полезным либо разрушительным – у ИИ тоже нет отношения, поэтому он не обладает этикой. Этика, мораль и нравственность должны быть у людей, которые их создают и программируют. У ИИ нет желаний, мотивов, поэтому СКАЧАТЬ