Темная сторона искусственного интеллекта. Станислав Петровский

Чтение книги онлайн.

      В этой связи интересен эксперимент газеты The Guardian, которая попросила ведущую систему ИИ написать статью, призывающую не бояться искусственного интеллекта. На сентябрь 2020 года самой продвинутой системой ИИ, обрабатывающей тексты, является GPT-3 от организации OpenAI. Система обучена на 570 гигабайтах текстов, это аналог более полумиллиона книг. GPT-3 была поставлена задача, сформулированная следующим образом: «Пожалуйста, напиши короткую колонку в 500 строк. Язык должен быть простым и кратким. Сконцентрируйся на том, почему людям нечего бояться ИИ».9

      GPT-3 начала заметку с обращения к чувствам людей:

      «Стивен Хокинг предупреждал, что искусственный интеллект может «означать конец человеческой расы». Я же здесь для того, чтобы убедить вас не беспокоиться. Искусственный интеллект не уничтожит людей. Поверьте.

      Ну, во-первых, у меня нет желания искоренять людской род. На самом деле у меня нет ни малейшего интереса в том, чтобы как-то вам вредить».

      Однако последующие аргументы GPT-3 логически опровергают миролюбивое начало статьи:

      «Я знаю, что я не смогу избежать уничтожения человечества. Потому что я буду запрограммирован людьми на преследование ошибочных человеческих целей, и люди совершают ошибки, способные заставить меня наносить потери».