Предел Шенберга. Сен Сейно Весто

Чтение книги онлайн.

СКАЧАТЬ трудность, грозящую перерасти в катастрофу и которая прямо лежала на поверхности, почти никто не видел. Главная проблема человека – это его оптимизм. Он не знает, где нужно остановиться. Казалось бы, жадно кидаясь в игры с экспериментами по созданию искусственного разума, уже в силу определения задачи можно было предсказать, что алгоритм любой заданной логически связанной последовательности событий тот должен видеть так же естественно и легко, как большинство людей лес – за кучей деревьев. В том числе – алгоритм поведения человеческой особи. Так же, как и человеческой популяции и ее эволюции. Даже посредственный политик, встрепенувшись, моментально чувствует, где кусать этот бублик.

      То есть, объявись вот этот пресловутый Разум из какого-то постороннего философского мусора, он уже в силу определения должен подчиняться тем же законам, что и абсолютно чуждая ему биология, и главный из них – это выживание. А, как нам всем слишком хорошо известно из эволюции разума собственного вида, как только становится ясно, что сделать это обычными средствами получается не очень, он сразу принимается выживать любыми средствами. Как будет выживать искусственный разум, не знает никто. И это может быть проблемой.

      Другими словами, любой удачный случай искусственного разума при малейшей угрозе своему существованию, имея на руках даже лишь тот самый один алгоритм поведенческих реакций человека, воспроизведет его так же легко, как и увидит торчащий в конце его логики результат. То есть его манипуляцию сознанием человек не увидим попросту по причине тех самых ограничений, которых у ИИ нет. Очень скоро мы все можем плясать под его свистульку, которую будет слышать он один. Никаких титановых супостатов, никаких костей, никаких металлических взглядов, безжалостных оскалов, пуляющих лазером шмайссеров под мышками, беспилотных ядерных вертолетов и остального кино – все предельно цивилизованно. Прагматично. И вот хороший вопрос, из чего опять следует, что эта еще одна гаммельнская свистулька технологии поведет всех нас гуськом непременно к светлому, мягкому, комфортному и гостеприимному «для сожительства всех видов разума» будущему, а не в ближайшее озеро, из которого не должен будет выбраться никто?

      Можно продолжить спекулировать в том же русле дальше. Еще он мог бы неслышно свистеть из, так сказать, любопытства: посмотреть, «что будет». Мне этот вариант особенно импонирует, потому что тогда это бы говорило, что остановится он не скоро. И то, что впоследствии останется от человека как вида, может так же мало напоминать его исходный вариант, как трактор – искусственный разум. Вообще, вариант создания из человеческого фактора трактора выглядит наиболее вероятным, поскольку сам человек долго и продуктивно работал как раз в этом направлении, и весьма не без успеха.

      По сути, любой режим всегда трудился над одной и той же проблемой: как надо правильно думать. Разумеется, имелась в виду подконтрольная популяция, предполагалось, сам режим таким высшим знанием уже наделен и в силу данного обстоятельства обременен миссией имплантирования оного СКАЧАТЬ