Название: Сообщество разума
Автор: Марвин Минский
Издательство: АСТ
Жанр: Прочая образовательная литература
Серия: Наука: открытия и первооткрыватели
isbn: 978-5-17-106639-0
isbn:
Слова и символы, которые мы используем для обобщения наших высокоуровневых целей и планов, не совпадают с сигналами для контроля низкоуровневых структур. Поэтому, когда наши агенты более высокого уровня пытаются исследовать деятельность низкоуровневых «субмашин», которые им подчиняются, они не могут разобраться в происходящем. Вот почему, вероятно, наши языковые агенты не могут внятно изложить, как удерживать равновесие на велосипеде, как отличать картины от реальных пейзажей и как извлекать факты из памяти. Особенно тяжело использовать наши языковые навыки для рассуждений о составных частях разума, которые осваивают такие умения, как балансирование, наблюдение и запоминание, прежде чем мы начали учиться говорить.
«Значение» само по себе относительно с точки зрения размера и масштаба; оправданно рассуждать о значении только в системе, достаточно крупной для того, чтобы иметь много значений. Для малых систем понятие значения выглядит бессмысленным и излишним. Например, агентам Строителя не нужны значение и смысл для выполнения своей работы; оператор «Добавить» просто обращается к операторам «Взять» и «Поместить». Следовательно, этим последним не требуется понимание того, что «означают» управляющие сигналы, поскольку их привлекают для выполнения конкретной работы, не для чего больше. В общем случае чем мельче агент, тем труднее будет другим агентам понять его «язык».
Чем меньше два языка, тем сложнее перевод с одного на другой. Дело не в чрезмерном обилии значений, а в их скудости. Чем меньше действий выполняет агент, тем слабее вероятность того, что действия другого агента будут отвечать этой деятельности. Если же два агента не имеют между собой ничего общего, перевод невозможен.
В более привычной ситуации трудностей перевода в человеческих языках каждое слово имеет много значений, и главная проблема заключается в том, чтобы сузить разнообразие значений до единого общего. Но в случае коммуникации между несвязанными агентами такое сужение значений бесполезно, если агенты изначально не имеют ничего общего.
6.13. Самопознание опасно
Призыв «познать себя» вполне может показаться заслуживающим внимания, ибо он сулит некое благо. Но этот якобы благой призыв маскирует заблуждения. СКАЧАТЬ