Инфотермитники, самоодомашнивание и «маленькие греки»

Сергей Карелов

Сергей Карелов — один из интереснейших мыслителей нашего времени. С громадным интересом слежу за тем, что он пишет на сайте Medium, в своем телеграм-канале «Малоизвестное интересное» и т.д. Ниже — выдержки из недавней беседы с ним в Republic.


… Да, прямо сейчас это происходит с искусственным интеллектом, особенно с понятием «сильный ИИ». Это очень активно обсуждается, державы принимают государственные программы, но под термином «ИИ» каждый понимает что-то свое. А еще мы не знаем в принципе, что значит «быть умным».

Скажем, дельфины очень умные создания. С точки зрения эволюции они умны, потому что вернулись обратно с суши в океан, где у них почти нет врагов. С точки зрения человека они умны, потому что имеют социальное устройство, играют, обучаются, осознают себя, то есть проходят зеркальный тест, могут грустить, общаться с человеком и так далее. Вообще, дельфины очень хорошо устроились, можно спекулятивно утверждать, что у них вполне себе построен коммунизм.

*

Создание проектов с открытым исходным кодом – операционная система FreeBSD или появление «Википедии» – похоже на строительство термитника. В том смысле, что у них нет архитектора или главного инженера: «оно само». Современные цифровые сети позволили нам создать свои собственные метки. Все эти мемы, флешмобы, проекты на GitHub – все это координация без начальника.

*

У нашего общества такого Большого Бога, который все про тебя знает, больше нет, люди лишаются стимулов к правильному поведению. Под «правильным» мы здесь обычно понимаем поведение, которое признается полезным для общества.

Все эти страшные истории про «Мы» Замятина, про китайский социальный рейтинг и так далее – они могут стать неприятной повседневностью. Человечеству придется жить в условиях постоянного наблюдения, ежедневного отчета перед системой, которая определяет всю его жизнь. С одной стороны, да, чудовищно, а с другой – какие альтернативы? Разве что разрушение цивилизации как таковой.

*

Да, и подчинение, регуляция нашего общества с помощью алгоритмов, переход суверенитета к машине – это может быть не так уж и плохо. Мы привыкли думать, что человек прежде всего хочет свободы, но есть теория, что мы состоялись как вид-гегемон только потому, что сами себя одомашнили. Дикие и домашние животные отличаются не абстрактным умом, а оценкой незнакомого.

Домашние виды, скорее всего, будут спокойно оценивать незнакомую обстановку и доверительно относиться к человеку. Здесь очень любопытно посмотреть на прекрасные результаты эксперимента Беляева по одомашниванию лис. Домашние лисы приобрели черты, которые еще описывал Дарвин: ювенильность, то есть детскость облика, сглаженный половой диморфизм и так далее.

*

Способы упаковать информацию могут быть разные, фазовым переходом является само представление, что данные должны быть зафиксированы на внешнем носителе. Например, у зажиточных римлян были специально обученные мнемонические рабы, которых звали «маленькие греки». Такой человек запоминал какую-то информацию и потом в нужный момент выдавал ее хозяину, то есть извлекал данные из себя.

Оставьте комментарий

Добавить комментарий