«Не убийца, а всего лишь код, созданный и управляемый человеком»: сооснователь фонда Andreessen Horowitz о рисках ИИ

Страхи понятны с точки зрения эволюции, но чаще всего не обоснованы и лишь сеют панику, которая тормозит развитие сектора, говорит Марк Андриссен.

Кадр из фильма «Искусственный разум» 2001 года. Источник: <a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fwww.imdb.com%2Ftitle%2Ftt0212720%2F&postId=730682" rel="nofollow noreferrer noopener" target="_blank">IMDb</a>
1616

Не будь "баптистов", "бутлегеры" вроде Андриссена приберут остатки того, что пока не их. Им плевать, что на общество, что на людей, а оправдать можно любую дичь.
1. У нас нет ИИ, пока только нейросети. Поскольку Андриссен предлагает отказаться от явных ограничений и регулирования, то однажды появится "бутлегер-фанатик", который добавит сетке целеполагание и уже не важно, поставит разрушительные цели она сама или будет находится под воздействиями людей-экстремистов. Сверхразум для этого не нужен.

2. Прекрасное иезуитство. Если непонятно - на какие ценности надо равняться, давайте просто их проигнорируем. Этакое, аморальное нейрообщество, в котором Андриссен процветает только за счет умелых инвестиций.

3. Общество, где художник, потративший на развитие навыка всю жизнь внезапно оказывается не нужен. За него может набить промпты любой новичок, после недели обучения. Профессионал дорого берет, его будут тоже низводить по мере развития технологий. Ничего личного, просто бизнес.

4. На неравенство это никак не влияет, почти.
Умный человек с умной технологией будет эффективнее дурачка, который жмет на одну кнопку и радуется сгенерированному результату. Просто потому, что легкодоступный, массовый продукт не имеет особой ценности. В таком обществе надо быть еще более изворотливым.
Хотя, нет, конечно, на пайку из "переработанных жуков" вполне может рассчитывать каждый. Только дивный ли это мир?

Ну и на затравочку я писал в соседней теме ооочень характерный пример про "равное общество".

Производитель чая Липтон в Кении решил по-максимуму заменить собирателей на роботов. Причем, заметно превысив квоту и обещания. В итоге, местные обиделись и сожгли роботов на несколько миллионов долларов.
Это к вопросу о баснях про красивую, справедливую жизнь и реальность.

3
1
Ответить