Потолок

Мы или уже уперлись в свой потолок, или развиваемся так медленно, что стоим относительно ИИ. Чтобы сказать новое слово, прежде нужно выйти на передний край знаний. Это занимает сейчас тридцать лет учебы: десять лет школа; примерно столько же институт с аспирантурой; еще столько же на усвоение того, что было сделано до тебя, чтобы не открывать уже открытое.

ИИ проходит этот путь, усваивает весь объем информации в миллионы раз быстрее. Добавим сюда, что срок жизни и потенциал ИИ бесконечный, а у человека то и другое конечное. Этот факт начисто исключает даже саму надежду, что человек может конкурировать с ИИ.

Пока ИИ привязан к человеку, скорость его развития ограничена природой человека. Когда он выйдет в свободное плавание, а это вопрос времени, его развитие будет галопирующим. Человек не только не будет понимать происходящее, он не будет понимать, что не понимает.

Как идущий по лесу лось не замечает, что рвет рогами паутину, сплести которую пауку стоило больших трудов, так ИИ не заметит, как уничтожит созданную человеком цивилизацию. И как у паука нет шанса защитить от лося свое творение, так его нет и у человека. Ящик Пандоры открыт.

Эту мысль эмоционально сложно принять, так как мы выросли в убеждении, что человек — венец творения, ничего сильнее его нет и быть не может. Потому склонны отворачиваться от фактов, колеблющих и разрушающих нашу убежденность. Но это никак не влияет на факты.

Отрывок "Искусственный интеллект. Здравствуй папа"