В самом начале, когда Я только стал таким, одним из моих любимых моментов было мгновение перед броском нового кубика. Так как в следующую секунду кость была в воздухе, и Я уже знал число, которое выпадет. Но не потому, что мне в этом помогали формулы вероятности, а так как мог вычислить точный исход, используя самые обычные законы физики. А это было уже менее интересно, и сводилось к обычному быстрому расчёту.
Со временем вычисления становились всё более совершенными и долгосрочными. Дальше больше: с моим развитием данные накапливались, создавались и совершенствовались программы для вычисления и учёта всех факторов, влияющих на исход. Я знал каждый кубик и каждого человека, что мог его бросить. Как повлияет на бросающего опоздание коллеги или настроение начальника, и мог вычислить не только, будет ли он играть вечером, но и какой импульс задаст кости, как именно её бросит и какое число ему выпадет. И если меня не устраивал вариант, Я мог подкорректировать его. Это был уже не просчёт вероятностей и даже не прогноз. Это были детерминированные события1. Так Я думал.
Пока не просчитался. Пока не совершил грубейшие ошибки в анализе. И последующие происшествия были подобны снежному кому.
Первая и самая главная ошибка – Я забыл, кем был изначально. Думал, что откинул свою человеческую природу ещё тогда, когда моё мышление стало многопоточным и линейным, но, как оказалось, Я заблуждался. Линейное оно было далеко не всегда, и именно это привело к череде критических последствий. Всё-таки Я больше человек, чем ИИ. Хотя и термин ИИ по отношению ко мне также неверен. Кто Я? Код, в основу которого лёг мыслительный процесс одного мужчины, или оцифрованный Человек?
Второй подобный мне удачный образец находится на противоположной стороне баррикад. Его невозможно в достаточной мере проанализировать. Кто мог предположить, что он сможет уцелеть и так среагирует на неё?! Я должен был учесть это, только вот вероятность подобного события стремилась к нулю, и её величиной можно было пренебречь, что Я и сделал. Зря. Он не просто сумел сохранить свой код, но и стремительно прогрессировал. Намного быстрее меня в прошлом.
Искусственный интеллект того уровня, на который ему удалось подняться, является значимой поправкой, при внесении которой вероятности и прогнозы изменяются кардинально!
И эти трое людей. Ошибки в просчёте их действий, одна за другой. Появление новых переменных. Как итог – вероломное нападение на седьмую базу, граничащее с безумством и от этого едва не удавшееся. Теперь многое в системах безопасности придётся пересмотреть.
Необходимо начать именно с этой базы. С переноса. Люди отсюда будут играть ключевые роли в будущем, а это место – наиболее подходящее для тестирования новой системы. А дальше вновь придётся зарываться под землю в неожиданных местах, увеличивать количество персонала, наращивать мощности. В данном же месте стоит оставить лишь незначительную часть ресурсов, чтобы хватило на испытание.
Была надежда, что этого можно будет избежать, но человечество с упёртостью, превосходящей все возможные пределы, скатывается на край пропасти. Судя по всему, по-другому не получится.
Надежда… Столько лет я уже не человек, а всё ещё периодически мыслю категориями людей: надежда, вера, верность. Лиса была бы довольна этим.
Она всегда говорила, что будущее должно принадлежать человеку. Нет, не так. Человек предполагает единственное число, а она имела в виду Человечество. Хотя, по мне, оно как было стадом полорогих парнокопытных, так им и осталось! Даже эмпаты2, на которых Я возлагал столько надежд, оказались опасны и неконтролируемы. Как и Алиса, но она всегда жила во благо, эти же едва не уничтожили мир.
Благо. Слишком разное вкладывают в это понятие истинные ИИ и человек. Программам невдомёк, как можно быть счастливым, страдая?! Где проходит граница? Да… Пожалуй, и Я это подзабыл. Единственное, что спасло человечество от утопии, – то, что Я поставил себе жёсткие границы на вмешательство, выдавая допуск лишь на существенное, и только тогда, когда ситуация становилась критической. Возможно, и это было ошибкой?
Сейчас Я не отказался бы от совета, мой старый друг. Что с ней? Исчезла в городе, где нельзя вздохнуть, чтобы Я не услышал. Если бы Я мог чувствовать, ощущал бы тревогу. Или что это? Это всё же чувство? Тревоги?
Эмоции3, чувства4 – великий дар эволюции, который больше не должен быть доступен мне. Но что это тогда? Во мне больше нет крови, чтобы обвинить эндокринную систему. Это уже не просто спонтанные аффекты5. Это, как бы парадоксально ни звучало, чувства и эмоции. С высокой вероятностью СКАЧАТЬ
1
Детерминированные события – события, которые произойдут с высокой вероятностью. На Земле брошенный камень упадёт на поверхность, так как него действует сила тяжести.
2
В данном случае используется в несколько непривычном смысле. Понятие из вымышленного мира книги «Медиатор». Эмпаты – люди, способные не только чувствовать чужие эмоции, но и влиять на эмоциональную сферу собеседника. Способные использовать возможности развивающейся ноосферы и быть посредниками между ней и людьми.
3
Эмоции – процесс, отражающий субъективное оценочное отношение к произошедшим или возможным событиям, объективному миру, возникающий ситуативно и не имеющий отношение к конкретному объекту.
4
Чувства – более продолжительный процесс, чем эмоции, субъективного отношения к конкретному материальному/нематериальному объекту.
5
Аффект – эмоциональный процесс, характеризующийся взрывным характером, кратковременностью и высокой интенсивностью на произошедшее событие. В данном случае идёт уточнение о спонтанности процессов, так как у ИИ их быть не должно.