February 28th, 2021

red dragon

скорое будущее, где люди превратятся в домашних животных

крестовый поход Илона Маска против засилья технологий

<...>

В кругу инженеров, которых прельщает удовольствие разрешения новой задачи, преобладает позиция, что империи рушатся, общества меняются, а все мы движемся к неизбежно ожидающей нас впереди стадии развития. Они спорят не о том, «случится ли это», а о том, «насколько близки» мы к улучшенным версиям самих себя. Сэм Альтман (Sam Altman), 31-летний президент компании Y Combinator, главного инкубатора стартапов Кремниевой долины, считает, что человечество уже стоит на пороге такого изобретения.

«Самое сложное, когда ты находишься на показательной кривой, состоит в том, что, когда ты оглядываешься назад, она кажется ровной, а если смотришь вперед, она представляется вертикальной», — сказал он мне. «Очень сложно измерить, насколько ты продвинулся, потому что она все время выглядит одинаково».

Можно было бы представить, что всякий раз, когда Маск, Стивен Хокинг и Билл Гейтс все в один голос предостерегают об опасности искусственного интеллекта — а каждый из них так и делает — поднимется тревога, как при сильном пожаре. Но уже давно над Кремниевой долиной нависает плотный туман фатализма. К «крестовому походу» Маска относятся, в лучшем случае, как к Сизифову труду, а в худшем — как к инициативе луддита. Парадокс состоит в следующем: для многих олигархов в области развития технологий их действия, направленные на помощь нам, и все их благостные манифесты служат маячками на пути к будущему, где, как говорит Стив Возняк (Steve Wozniak), люди превратятся в домашних животных.

<...>

https://inosmi.ru/social/20200829/248022795.html

я сам 35-40 лет назад был таким и занимался в т.ч. ИИ, пока не дошло, что грядущий Новый Дивный Мир сулит человечеству за ненадобностью скорый конец при всех вариантах прогресса.