Цифровая гигиена. Том 6. Владимир Безмалый

Чтение книги онлайн.

      – Боб, ты видел результаты системы распознавания лиц, внедренной в аэропорту и на вокзале?

      – Да. Мы за два дня сумели поймать больше разыскиваемых, чем за три года перед этим.

      – Знаешь, что губернатор приказал еще два месяца назад внедрить ее во всех крупных населенных пунктах и на всех вокзалах?

      – Конечно!

      – Представь, насколько работать станет легче!

      – Не думаю!

      – Почему?

      – Потому что в результате полицейские могут просто разучиться думать! Они будут верить в то, что камеры не ошибаются. А ведь это просто еще один фактор поиска, и не более!

      – Согласен, но удобно же.

      – Эй вы, хватит болтать! Кажется, полицейские задержали для проверки некоего Роберта В. Система распознавания лиц определила в нём преступника, который два года назад совершил магазинную кражу. Его доставили в участок.

      – А еще какие-то улики есть?

      – Нет! Но его ведь опознали?

      – Боб, кажется, это то, о чем мы только что говорили. Его арестовали?

      – Да! Ну а как же? Его ж опознали. Его пока задержали на 48 часов, и наша задача понять, он или не он совершил кражу.

      – Для начала нужно проверить, а был ли он вообще в тот момент в городе, может у него алиби?

      – Боб, я не понимаю, ты что, адвокат?

      – Нет, конечно! Но я не хочу осудить невиновного, так как прекрасно понимаю, что в любом программном продукте может быть ошибка. И не одна. Давай проверим еще раз, где он находился.

      Прошло четыре часа.

      – Боб, увы, ты оказался прав. Он в момент ограбления был не только в другом городе, а даже в другом штате. Вот документ. Он был оштрафован полицейским патрулем за превышение скорости. Так что он невиновен.

      – Нужно выпускать и извиниться.

      – Да.

      Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания.

      Примечательно, что ПО для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

      Этот случай создал прецедент, который указывает на гораздо более обширную проблему – всецело доверять алгоритмам искусственного интеллекта пока нельзя.

      Сказки о безопасности: Найти человека