У фантастов есть одна не слишком любимая в силу её сложности, но богатая тема — встреча человечества с инопланетным разумом, чей способ мышления от человеческого принципиально отличается. См. ту же «Ложную слепоту» Уоттса, ну или в менее серьёзном варианте — «Верный вопрос» Шекли.
Суть, разумеется, в том, что человеческий разум и способ мышления — не единственно верный, и представить, как будет мыслить некий инопланетянин, мы в общем случае просто не можем.
С одной стороны, с инопланетянами мы пока не встречались. С другой, в этот момент подключаются биологи — и сообщают, что в общем-то не факт, что мы можем представить, как мыслит вон та ворона, копающаяся в мусорном баке. Она воспринимает мир иначе, чем мы, и вопрос не только в физиологических особенностях зрения.
Но и вороны, и тем более инопланетяне — это что-то, что нас касается пренебрежимо мало.
И тут приходят на помощь программисты. Делающие пресловутый «искусственный интеллект», который, строго говоря, вообще не интеллект, по крайней мере в человеческом понимании этого термина — но обывателем прочно воспринимается как таковой. То есть, «компьютер, который думает, как человек» — отсюда возникает всякие идиотские сравнения типа «на уровне трёхлетнего ребёнка» и тому подобное.
И вот этот априорный перенос человеческого видения мира на железную коробку, устройство которой с человеческим мозгом общего имеет ровно ничего, ещё сыграет много злых шуток.
Вот, например, чуваки из MIT взяли и слегка поредактировали дорожный знак ограничения скорости, добавив на него два дюйма чёрной изоленты:
С точки зрения человека, цифра «3» стала страшнее, да и только. С точки зрения «мозгов» Tesla Autopilot, на знаке теперь вообще написано «85», в связи с чем оный автопилот при его виде вдавливает тапочек в пол и выжимает 50 миль/ч сверх реального лимита — это если мы к железному ящику, для начала, описывая его работу, применяем слова «написано», «цифра» и «85», что уже само по себе неверно. Железный ящик не воспринимает мир в такой системе, это мы пытаемся его очеловечить.
При этом с точки зрения среднего человека — это совершенно контринтуитивное поведение, на уровне «автопилот совсем сломался», потому что ведь на знаке же написано по-прежнему «35». А у автопилота в его железных мозгах — никаких «35» там никогда даже не было, он вообще не знает, что такое числа и какой у них смысл. Он информацию обрабатывает совершенно иными образом.
И что-то сдаётся мне, напляшемся мы с этим по мере внедрения вот таких автопилотов повеселее, чем с IoT и ботнетами из IP-видеокамер.