Доверяя инструментам "ИИ"
Уже несколько десятилетий люди доверяют свои жизни компьютерам. Например, это может касаться управления воздушными перевозками, статистического анализа устойчивости мостов, онлайн-сервисов по доставке продуктов и даже управления светофорами. Тем не менее, сегодня этот вопрос стоит гораздо более серьёзно.
Мой любимый инструмент "искусственного интеллекта" это claude.ai, хотя даже он допускает ошибки. Стоит ли ждать пока сервис станет идеальным прежде, чем начать его использование?
Моё частное мнение: да, стоит. Ведь, если бы мы ждали подобного от всех остальных технологий и мира в целом, то наверно вообще не выходили бы из дома.
Есть 2 типа заданий, которые можно делегировать инструментам "ИИ":
- восстанавливаемые, то есть такие, в которых всегда можно вернуться на один шаг (или на 10 шагов) назад если будет допущена ошибка;
- проверяемые, то есть когда Вы можете убедиться, что всё в порядке прежде, чем доверять решению.
Согласитесь, весьма неразумно передавать в распоряжение "ИИ" все Ваши пенсионные накопления. Вы можете узнать о проблеме когда станет уже слишком поздно.
С другой стороны, уточнить меню в ресторане или проверить наличие свободных мест в кинотеатре, – вполне посильная задача даже для робота.
Вопрос может касаться и более деликатных отраслей, в которых тем не менее существуют чёткие ограничения. Например, медицинская диагностика. Взаимодействуя со списком симптомов "ИИ" может в некоторых случаях превзойти человека-врача. Просто по причине того, что компьютер быстрее проверит большее количество параметров.
Как на странно, именно первые положительные результаты могут привести к появлению больших проблем, и вот почему. Если на начальном этапе "ИИ" выполняет задачи правильно, мы склонные доверять ему больше и больше. Отсутствие проверки в критический момент может привести к ложным ответам. И тогда быть беде!
А дальше пошло-поехало. Учитывайте, что ошибки "ИИ" могут быть куда менее предсказуемые, чем человеческие (и гораздо менее надёжные, чем традиционные компьютеры), у нас нет достаточных знаний чтобы предсказать их закономерности. Подумайте об этом до того, как уволите всех живых хирургов и инфекционистов в своём госпитале.
Не спешите поддаваться на массовые призывы вроде "Заменим всех и вся на роботов!". Вам ведь нужны долгосрочные решения, основанные на стабильной результативности, не так ли? Вот почему лучше опираться на старый добрый экспериментальный подход, результаты которого можно проверить и откатить назад при необходимости.
Итак, принимая на работу инструменты "искусственного интеллекта" помните о важности тотального контроля над ними.