💾 Archived View for gemlog.blue › users › Pozhar › 1721041173.gmi captured on 2024-09-29 at 03:04:12. Gemini links have been rewritten to link to archived content
⬅️ Previous capture (2024-08-18)
-=-=-=-=-=-=-
Есть один непонятный для меня феномен - нынешний ИИ-алармизм. Ну, вот это явление, когда всякие
перепуганные задроты собираются на конференции и обсуждают, как надо запретить и ограничить
развитие ИИ, чтобы они нас не съели. Забавно, что угорела по этой теме тусовка
акселерационистов-трансгуманистов-рационалистов-биохакеров, от зануды Юдковского до нарцисса Маска.
Почему-то я не удивлен, что на поверку именно они оказались главными луддитами современности.
Сценарии конца человечества там выдают разные: начиная с классического ИИ-злодея, воспетого в
произведениях от "У меня нет рта, но я должен кричать" до "Терминатора", заканчивая несколько более
реалистичными сценариями о том, что сверхразум, запрограммированный на производство гаек, походя
переплавит нас всех на гайки.
Но вот вопрос: а в чем собственно проблема? Почему должны срочно озаботиться сохранением своего
вида? Начнем с того, что наш вид - продукт длительного процесса эволюции. Сначала она была неживой,
затем стала живой. Первые живые организмы создавались путем случайных мутаций с последующим их
перебором в естественном отборе. Метод рабочий, но очень долгий. Но некоторые полученные в итоге
существа научились в "расширенный фенотип" т.е. изменять пространство вокруг себя. Муравьи строят
муравейники, бобры - плотины, люди - мегаполисы. Наш расширенный фенотип самый расширенный (хотя
муравьи наверное могли бы поспорить), поэтому у нас адаптация к среде сменилась адаптацией среды, а
социальная эволюция стала важнее той, что строилась на слепом переборе РНК-ДНК. Мы и слабее, и
глупее наших предков-кроманьонцев, но процветаем и плодимся благодаря культуре и разделению труда.
Мы создаем рукотворные машины, но не то чтобы это выводит нас из природы: чем наша металлургия
принципиально отличается от бактерий или водорослей добывающих железо из окружающей среды? Эволюция
биологическая, эволюция культурная, эволюция техническая - это просто все часть одного большого
эволюционного процесса. Одни машины строятся на базе цепочки ДНК, другие - на двоичном коде.
Человечество - тоже одна большая машина, работающая слажено за счет сигналов экономики. Но в целом
разницы никакой: одни машины создают другие машины, те свою очередь создают третьи и т.д.
В общем, к чему я веду: почему создание ИИ, который заменит человечество, нужно воспринимать как
некую чужеродную угрозу, а не как продолжение нашей с вами эволюции? Понятно, что я и сам не
обрадуюсь, если завтра какой-нибудь скайнет переплавит меня на гайки. Картины великого машинного
геноцида тоже выглядят неаппетитно. Но если речь идет просто о замене людей из будущего, с которыми
я лично знаком не буду, машинным интеллектом, то собственно почему я должен об этом переживать?
Почему в условном противостоянии будущего, я должен считать своим "продолжением" тех, кто разделяет
со мной ~99.9% последовательности нуклеотидов? А не считать своим продолжением железяку, в которую
будет загружен весь культурный код человечества, многократно при этом усиленный? Скорее всего
мышление железяки будет таково, что я даже не могу это вообразить, но едва ли и хомо эректусы могли
помыслить, что значит быть современным человеком.
В общем, с одной стороны совершенно непонятно, почему наша эволюция должна быть именно
биологической, производство машин - такая же эволюция. С другой стороны здесь есть поле для
мысленных экспериментов в парфитовском стиле. И мне совсем не кажется, что будущие мясные мешки
должны вызывать у меня больше ощущения родства, нежели культурные машины. В итоге нынешний
ИИ-алармизм кажется мне довольно унылым и лишенным воображения явлением.