Современные технологии искусственного интеллекта могут представлять угрозу человечеству, но не так, как это часто изображается в фильмах. Проблема заключается не в возможном восстании машин, а в том, что люди начинают слишком доверять ИИ, теряя способность критически мыслить и принимать решения. Недавний случай с группой неопытных альпинистов на горе Шаста в Калифорнии наглядно это продемонстрировал.
При подготовке к восхождению альпинисты использовали такие ресурсы, как Google Gemini, YouTube и AllTrails. Они запросили у ИИ оценку времени восхождения и рекомендации по необходимым запасам. Gemini предположил, что восхождение займет всего 8 часов и посоветовал взять быстрые углеводы вместо жиров, поскольку последние не успевают усвоиться на коротком маршруте. Кроме того, команда взяла с собой лишь минимальный запас воды, не желая тащить лишний вес.
Следующей ошибкой стало размещение базового лагеря у истока ручья Клир-Крик, что нарушает местные правила, и альпинисты старались избегать встречи с лесничими. В результате восхождение вместо запланированных 8 часов затянулось на все 16. В пути у них закончились запасы воды и еды, что существенно сказалось на их состоянии. Несмотря на достижение вершины, обратный путь оказался под угрозой. К тому же телефон с навигационным приложением разрядился, а при экономии заряда налобных фонарей один из участников упал и повредил колено, едва не упав с высоты 3,5 км.
Когда альпинисты, истощенные и замерзшие, смогли вызвать спасателей, им пришлось ждать на вершине еще сутки, так как вертолет дважды не смог приземлиться из-за плохой погоды. Спасенные признали, что подобные проблемы можно было легко избежать, если бы они полагались на опыт других людей и собственное суждение, а не слепо доверялись рекомендациям ИИ, который предложил «самый легкий» путь, как и было запрошено. Искусственный интеллект не несет ответственности за последствия своих советов.
