### Бог или голем? Почему ИИ вызывает религиозный трепет
В недавнем времени в издательстве Individuum вышел перевод книги американской писательницы Меган О’Гиблин «Бог, человек, животное, машина. Поиски смысла в расколдованном мире». В этой книге автор исследует, как современные технологии, в частности искусственный интеллект (ИИ), поднимают вопросы, которые ранее считались исключительно религиозными. Одним из таких вопросов является возможность того, что творение может превзойти своего создателя.
#### Что произошло, когда и где
В книге О’Гиблин приводится пример из 1964 года, когда отец кибернетики Норберт Винер опубликовал свою работу «Корпорация „Бог и голем“». Винер рассматривал, как новые технологии, такие как машинное обучение, поднимают фундаментальные вопросы о природе творения и создателя. Он описал случай, когда компьютер, обученный играть в шашки, смог победить своего создателя. Этот случай вызвал у Винера размышления о том, может ли машина перехитрить человека, который ее создал, и что это значит с теологической точки зрения.
#### Реакции и мнения
Современные примеры, такие как победа AlphaGo над чемпионом мира по го Ли Седолем в 2016 году, только усилили эти размышления. В интервью с бывшим чемпионом мира по го, который наблюдал за матчем, он отметил: «Это не человеческий ход. Я никогда не видел, чтобы человек делал такой ход». Этот комментарий подчеркивает, насколько непредсказуемыми и даже «сверхъестественными» могут казаться действия ИИ.
Дэвид Сильвер, один из создателей AlphaGo, также признал, что не может полностью объяснить логику некоторых ходов алгоритма. «Он открыл его для себя в процессе рефлексии и анализа», — сказал Сильвер.
#### Последствия и прогнозы
Эти события поднимают важные вопросы о будущем взаимодействия человека и ИИ. Как отмечает О’Гиблин, многие формы машинного обучения остаются «черными ящиками», и мы не можем точно понять, как они принимают решения. Это вызывает опасения, особенно когда такие алгоритмы начинают использоваться в критически важных областях, таких как медицина, правоохранительные органы и судебная система.
Примером может служить случай Эрика Лумиса, чье тюремное заключение было частично основано на оценке алгоритма COMPAS, определяющего вероятность рецидива. Лумис не смог оспорить решение алгоритма, что вызвало вопросы о справедливости и прозрачности таких систем.
#### Заключение
Вопросы, поднятые Винером и О’Гиблин, остаются актуальными и сегодня. По мере того как ИИ становится все более интегрированным в нашу жизнь, мы должны задуматься о том, как эти технологии влияют на наше понимание свободы, справедливости и даже религиозных концепций. В будущем нам предстоит найти баланс между использованием мощных инструментов ИИ и сохранением человеческого контроля и понимания.
