Роботы нас не захватят, они туповаты для этого
Прочитал «Искусственный интеллект» Мередит Бруссард. Всегда приятно находить подтверждение собственным мыслям или идеям в работах специалистов, и это как раз тот случай. Ниже поделюсь тезисно тем, что описывает книга.
- Искусственный интеллект не равно искусственный разум. В целом и интеллектом назвать компьютерные технологии нельзя, потому что единственная их сильная сторона – вычислительные способности.
ИИ способен распознать кошку, только если до этого в него были загружены тысячи изображений кошек разных видов и в разных позах. Он не понимает, что это кошка. Он просто подбирает подобности. И то у него будут выскакивать ошибки, как это было в 2015 году, когда ИИ идентифицировал афроамериканцев как «горилл».
- ИИ не обладает способностью мыслить. Он делает только то, что его обязывает делать программный код.
Если вы скормите процессору или нейронной сети всю коллекцию О`Генри, то ИИ научиться отвечать в стиле американского писателя. Иногда вам даже будет казаться это забавным или пугающим, но это просто ваша интерпретация результатов работы машинного кода в голосовой обработке. И это еще одна слабость ИИ – он не способен на интерпретации.
- Всемирная озабоченность ИИ и футуристическими проектами – прямое следствие того, что технологиями сейчас занимаются люди, выросшие в 60-е и 70-е, во время расцвета научной фантастики. Это их видение, навязанное миру в том числе благодаря масс-культуре.
- Компьютерные технологии на самом деле работают плохо, так как 70% времени программисты заняты починкой багов и отладкой версий.
- ИИ и другие программные продукты постоянно несут на себе печать своих создателей, то есть это не «свободное цифровое будущее», а например, комплексы белого цисгендерного мужчины 50-ти лет.
- Разница между ИИ в фильмах/художественной литературе и реальном мире примерно такая же, как разница между резиновой и живой женщиной. То есть первой никогда не стать второй, хотя внешне между ними может наблюдаться сходство (ИИ точно бы определил обеих как представителей одного вида).
- ИИ не способен ориентироваться в реальном мире, так он будет получать слишком много входных данных, которые постоянно меняются. Искусственный разум не появится в ближайшие сто лет, а вероятнее всего, не появится никогда.
- Опасаться нужно не ИИ, а людей, которые им занимаются, навязывая тем самым свои представления о мире.