Развод на миллион. Как мошенники используют уязвимости нашего мозга и что делать, чтобы не попасться на их крючок - стр. 14

Практика разработки компьютерных систем, способных проявлять интеллект в ситуациях с высокой степенью ограниченности и при этом подразумевающих, что они будут работать так же хорошо в широком диапазоне контекстов, насчитывает по меньшей мере пятьдесят лет. Иногда разработчики не вводят в заблуждение намеренно – они просто чрезмерно оптимистичны в отношении того, насколько легко будет усовершенствовать их собственную технологию, чтобы она работала в большем количестве ситуаций. В течение десятилетий эксперты по компьютерному зрению и робототехнике предполагали, что если робот сможет понять сцену, содержащую правильные геометрические тела (кубы, пирамиды, цилиндры и т. д.), то основная работа будет выполнена и потребуется всего лишь небольшой шаг, чтобы распространить эту способность на естественные сцены. Но раз за разом системы искусственного интеллекта (ИИ) терпят неудачу при переходе от оптимизированного «микромира» к миру реальному, подобно тому как потенциальные лекарства могут хорошо зарекомендовать себя в лабораторных экспериментах на животных, но терпят неудачу в испытаниях на людях. Иногда такое незначительное изменение, как настройка цвета одного пикселя на цифровом изображении, может заставить систему распознавания объектов принять корабль за автомобиль, а оленя – за самолет. Разработчики демонстрационных версий редко признают, что для достижения надежной работы в условиях реальной сложности часто требуется подход, полностью отличающийся от того, который прекрасно работал в тщательно контролируемой демонстрационной среде [7].

Мошенники извлекают выгоду из этой тенденции воспринимать то, что мы увидели в ходе короткого тщательно проработанного опыта, как отражение более широкой реальности.

Компания Theranos внедрила в свои миниатюрные машины для анализа крови специальный демонстрационный режим под названием «нулевой протокол» и использовала его во время встреч с инвесторами. После взятия крошечного образца крови у высокопоставленного гостя, помещения его в картридж и установки в устройство представитель Theranos нажимал на экран, как если бы он работал нормально, но устройство просто издавало серию звуков, фактически не проводя никаких медицинских анализов. Затем образец тайно доставляли в традиционную лабораторию для анализа, в то время как инвесторов приглашали на обед или экскурсию (которая включала место, где на самом деле проводился анализ их крови). Вся процедура была обсуждена и отрепетирована заранее. Подобно фокусникам, руководители Theranos манипулировали вниманием своей аудитории, заставляя ее думать, что они видели нечто необычное, однако на самом деле ничего не происходило. Даже почтенный автопроизводитель Volkswagen сделал нечто подобное: он запрограммировал свои автомобили на минимизацию выбросов только во время тестирования, чтобы они соответствовали требуемым стандартам, – что привело к государственным штрафам примерно на 40 миллиардов долларов [8].

Большую часть времени нами не нужно манипулировать, заставляя обращать внимание на неправильные вещи, – мы естественным образом фокусируемся на том, что перед нами, и не беспокоимся о том, чего нет. Если вы проводите время в социальных сетях, то в конце концов наткнетесь на схематичный рисунок самолета, покрытого точками [9].