Нейронное программирование диалоговых систем. Сергей Толкачев

Чтение книги онлайн.

СКАЧАТЬ которые могут быть выделены из этих потоков. Если бы мы могли, выделив из всех проходящих через наше тело потоков сигналов, физиологически ощутить, как обычные звуковые и зрительные образы все телевизионные и радио каналы – наш мозг скорее всего переполнился и отказал в течение очень короткого времени. Учитывая ограниченные возможности мозга, наша способность улавливать только узкий диапазон электромагнитных волн является жизненно важным ограничением для человека, однако это же ограничение не позволяет нам без специальных устройств эффективно выделять полезную информацию из всех, окружающих нас потоков данных. Если в результате взаимодействия между системой и средой произошло изменение их состояния, мы будем называть такое взаимодействие – сообщением M. Если изменение состояния системы S, в результате получения сообщения M, может быть измерено, мы будем называть такое взаимодействие информационным. Под информацией I мы будем понимать определенным способом нормированную меру различия ∆ между состояниями системы S до получения сообщения, и после S¹.

      I = k * ∆ = S – S¹

      Возможность измерять информацию является принципиальным свойством, позволяющим анализировать взаимодействия систем, и в некоторых случаях такое измерение может быть проведено в соответствии с определением информации, сформулированным Клодом Шенноном в работе «А Mathematical Theory of Communication» [22]. Шеннон рассматривает модель коммуникационной системы, состоящей из пяти компонент: Источник информации, Передатчик, Канал, Приемник и Получатель (рис. 14).

      Рис. 14. Схема коммуникационной системы по Шеннону

      Для того чтобы эту схему применить к современным информационным системам, нам понадобится внести в нее некоторые дополнения. Предположим, что Источник информации – это набор страниц, размещенных на каком-либо сайте, Передатчик – это Веб-сервер, а Приемник – персональный компьютер (рис. 15). В этой схеме используются все те же основные элементы коммуникационной системы Шеннона, только их количество увеличивается и, что является наиболее существенным, значительно увеличивается объем передаваемой информации.

      Рис. 15. Схема взаимодействия в Интернет

      Рассмотрим в качестве примера запрос в систему Google на поиск документов, в которых встречается комбинация слов – «information and energy». В результате мы получим список из ссылок на более чем 27 миллионов страниц! Если предположить, что искомая информация, которая представляет собой ответ на индивидуальный запрос, может содержаться в любой из этих страниц и считать, что объем средней страницы в Интернет составляет порядка 20 Кбайт, то суммарная длина L сообщения М, которое все серверы готовы передать в канал для последующей обработки в персональный компьютер будет 5x10¹⁴ Байт.

      При скорости приемника 100 Мбит/сек СКАЧАТЬ