Сергей Карелов — один из интереснейших мыслителей нашего времени. С громадным интересом слежу за тем, что он пишет на сайте Medium, в своем телеграм-канале «Малоизвестное интересное» и т.д. Ниже — выдержки из недавней беседы с ним в Republic.
… Да, прямо сейчас это происходит с искусственным интеллектом, особенно с понятием «сильный ИИ». Это очень активно обсуждается, державы принимают государственные программы, но под термином «ИИ» каждый понимает что-то свое. А еще мы не знаем в принципе, что значит «быть умным».
Скажем, дельфины очень умные создания. С точки зрения эволюции они умны, потому что вернулись обратно с суши в океан, где у них почти нет врагов. С точки зрения человека они умны, потому что имеют социальное устройство, играют, обучаются, осознают себя, то есть проходят зеркальный тест, могут грустить, общаться с человеком и так далее. Вообще, дельфины очень хорошо устроились, можно спекулятивно утверждать, что у них вполне себе построен коммунизм.
*
Создание проектов с открытым исходным кодом – операционная система FreeBSD или появление «Википедии» – похоже на строительство термитника. В том смысле, что у них нет архитектора или главного инженера: «оно само». Современные цифровые сети позволили нам создать свои собственные метки. Все эти мемы, флешмобы, проекты на GitHub – все это координация без начальника.
*
У нашего общества такого Большого Бога, который все про тебя знает, больше нет, люди лишаются стимулов к правильному поведению. Под «правильным» мы здесь обычно понимаем поведение, которое признается полезным для общества.
Все эти страшные истории про «Мы» Замятина, про китайский социальный рейтинг и так далее – они могут стать неприятной повседневностью. Человечеству придется жить в условиях постоянного наблюдения, ежедневного отчета перед системой, которая определяет всю его жизнь. С одной стороны, да, чудовищно, а с другой – какие альтернативы? Разве что разрушение цивилизации как таковой.
*
Да, и подчинение, регуляция нашего общества с помощью алгоритмов, переход суверенитета к машине – это может быть не так уж и плохо. Мы привыкли думать, что человек прежде всего хочет свободы, но есть теория, что мы состоялись как вид-гегемон только потому, что сами себя одомашнили. Дикие и домашние животные отличаются не абстрактным умом, а оценкой незнакомого.
Домашние виды, скорее всего, будут спокойно оценивать незнакомую обстановку и доверительно относиться к человеку. Здесь очень любопытно посмотреть на прекрасные результаты эксперимента Беляева по одомашниванию лис. Домашние лисы приобрели черты, которые еще описывал Дарвин: ювенильность, то есть детскость облика, сглаженный половой диморфизм и так далее.
*
Способы упаковать информацию могут быть разные, фазовым переходом является само представление, что данные должны быть зафиксированы на внешнем носителе. Например, у зажиточных римлян были специально обученные мнемонические рабы, которых звали «маленькие греки». Такой человек запоминал какую-то информацию и потом в нужный момент выдавал ее хозяину, то есть извлекал данные из себя.