Я вижу Ваши намерения
Дэн Дэннет много говорит о связи намерения и выживания. Мы пытаемся предсказать как будет вести себя наше окружение. Например, тигр может представлять угрозу для жизни, а человек из соседней деревни может предложить товар на продажу.
Если мы ограничимся тем, что будет стоять и наблюдать за ситуацией, то вполне можем столкнуться с нежелательным или даже смертельным исходом. Чуть более сложная реакция может выглядеть так: мы ставим себя на место другого объекта и предполагаем, что он мог бы иметь в виду. Разумеется, здесь тоже есть пространство рисков.
Поведение части предметов предсказать несложно: камень, летящий в сторону стекла, вероятно, его разобьёт (это закон физики) или банкомат, получив нашу карточку и PIN-код, выдаст нам деньги через специальное отверстие (это дизайнерское решение).
Во времена моего детства в нью-йоркском зале игровых автоматов был аттракцион с курицей, которая играла с Вами в крестики-нолики. Курочка не действовала настолько зловеще-продуманно как современные компьютеры. Но если Вы хотели получить от игры осмысленное удовольствие, то представляли, что у пиксельной птицы есть собственные цели и стратегии. Вообщем, ставить себя на место собеседника или конкурента, иногда может быть полезным способом в составлении прогнозов.
Так делают даже инженеры и разработчики. Представители подобных технологических специальностей относятся к инструментам "искусственного интеллекта" как к реальному человеку, пусть даже имеющим некоторые неестественные привычки.
Ясное намерение влечёт за собой права и обязанности. Мы не относимся к младенцам так, как будто они хотят чего-то конкретного, как и мы, поэтому нам гораздо легче жить с их постоянным плачем. Успешные дрессировщики собак не воображают, что собаки – это люди с четырьмя ногами. Вместо этого они сводят их поведение к входным и выходным сигналам и используют для его изменения рефлексы, а не рассуждения об успехе, карьере и смысле жизни.
Каждый день миллионы людей присоединяются к тайным организациям, которые дают системам "ИИ" презумпцию невиновности, намерение и свободу действий. Впрочем, вопрос открытый, может ли "ИИ" брать на себя ответственность?
Подведём некоторые итоги. Столкновение между тем, что мы предполагаем, и тем, что произойдёт на самом деле, может иметь серьёзные последствия. Предполагаемое намерение собеседника – это невероятный полезный психологический инструмент, но при переходе к практической деятельности лучше использовать более точные прогнозы.