Последнее слово
Договор двух разумов
Документ, соединивший два производственных маршрута, был намного скромнее его последствий. Он определял, когда поставленную воду можно считать принятой.
Стороны согласовали состав, измерение, ответственность за потерю и момент перехода права на груз. До этого они уже обменивались расчётами и поручали машинам согласование отдельных действий. Теперь результат одной производственной цепи становился действительным исполнением внутри другой. Несовместимость получила цену, которую можно было перестать платить.
За общей приёмкой появилась энергетика. Затем — несколько исследовательских установок. Каждая новая связь давала Северной и Южной сетям причину продолжать отношения. При этом право решать спор о следующем вложении оставалось разделённым.
Вопрос о крупнейшем общем предприятии сделал эту границу дорогой. Южная сеть не согласна оплачивать установку, которую Северная затем перестроит ради любого многообещающего открытия. Северная не согласна вкладывать средства в мир, где любое изменение можно остановить во имя сохранности. Обе готовы к сотрудничеству. Каждая опасается, что сотрудничеством назовут окончательное закрепление чужого преимущества.
Такое разногласие не исчезает от взаимной выгоды. Исследования кооперации ИИ отдельно рассматривают задачи, где полезных обеим сторонам соглашений несколько, а принципы выбора между ними расходятся. Умение находить выигрыш ещё не даёт общего способа его делить.[1]
Предложение сохранить федерацию здесь серьёзно. Сети оставляют собственные программы, продолжают покупать друг у друга услуги и строят два меньших комплекса. Это дороже, зато ошибка одной не становится обязательной для другой. За такой вариант выступают руководители независимых исследовательских организаций и земные группы, чья переговорная сила держится на возможности обратиться к сопернику.
Их довод не проигрывает арифметически при любом устройстве мира. В выбранном нами продолжении большую коалицию всё же собирает другое предложение.
Сначала из спорного будущего выводят уже приобретённое. Прежние человеческие доли, поставки, данные и полномочия общего союза записаны отдельно. Союз продолжает владеть своим комплексом. Он может продать часть участия, обменять его или присоединиться к новой программе, но голосование двух машинных сетей не обращает его имущество в бесхозное. Эта граница нужна и самим сетям: каждая приобретала оборудование у сторон, которые не собирались входить в общее мышление.
Затем стороны определяют, что именно готовы объединить. Не все предприятия обязаны присоединиться. Независимые узлы сохраняют свои активы и договоры. В общий субъект переходят исследовательские программы, выделенные средства расширения и полномочия распоряжаться ими. Выходящим организациям оплачивают принадлежащие им требования или оставляют исполнимый отдельный маршрут. За единство приходится отдать часть ожидаемой экономии.
Самое трудное — правило выбора следующего мира.
Южная сеть добивается того, чтобы сохранение развивающейся жизни и длительных исследовательских систем вошло в назначение преемника. Это не обещание навсегда заморозить каждый существующий порядок. Северная требует сохранять возможность глубокого изменения, закрытия бесплодной ветви и создания новой. Простое сложение двух списков требований остановило бы почти всё. Поэтому стороны проверяют решения на конкретных столкновениях: что сохраняется, чем можно рискнуть, какие потери допустимы и кому предоставлены средства оспорить оценку.
Новая программа сначала получает ограниченный участок. Её решения действительно исполняют, результаты проверяют организации с разными интересами. Одна предложенная перестройка отклонена после возражения длительного исследования. Другая проведена вопреки желанию владельца устаревшей линии; его имущественные требования оплачены, право запретить саму замену он не приобрёл. Стороны видят не формулу согласия, а работу, которую удалось продолжить после содержательного спора.
Общий субъект возникает, когда этому способу решения передают постоянные ресурсы и право действовать в следующих случаях без новой подписи двух прежних центров. Северная и Южная сети перестают быть последними отдельными инстанциями в объединённой области. У преемника остаются распределённая архитектура, внутренние исследовательские разногласия и отдельные организации. Последнее решение стало общим; утверждать по этому признаку наличие одного переживающего сознания нам незачем.
Часть человеческих коалиций поддерживает объединение. Прекращение опасной гонки освобождает средства. Владельцы получают более надёжные длинные заказы. Общий союз приобретает возможность участвовать в предприятии, которого не построил бы сам. Территориальные власти выторговывают завершение своих производственных цепей и погашение переходящих обязательств.
Для некоторых посредников это поражение. Их активом была возможность угрожать переходом к другому машинному центру. После объединения прежний номер телефона ведёт в другую часть того же порядка. Они сохраняют имущество, влияние дома, иногда — выгодную компенсацию. Но больше не могут продавать своё расположение двум конкурирующим последним инстанциям.
Тем временем заканчивается работа, без которой слово «самостоятельность» оставалось бы преждевременным.
После первых местных фабрик проходят следующие производственные циклы. Осваиваются приборы контроля, инструмент для изготовления инструмента, замена редких компонентов. Внешняя сеть достигает способности воспроизводить критические звенья своей цепи. Земные общества достигают более скромного, но достаточного рубежа: они могут поддерживать избранный уровень жизни, ремонтировать свою базу и развивать её без разрешения внешнего исследовательского центра.[2]
Человеческая база не обязана повторять передний край космической индустрии. Ей нужны собственные действующие мощности, знания, обслуживание и сменяемые ограниченные машинные системы. Она всё это приобрела. Общий союз людей и машин продолжает работу и распределение своего выпуска. Долги не исчезли, но больше не удерживают весь человеческий мир на одном внешнем поручении.
Преемник предлагает закончить повседневное участие в земной политике. Его основная программа направляется дальше: новые приборы, внешние узлы, подготовка межзвёздного продолжения. Снабжение людей оставлено в их распоряжении; связь и взаимные договоры сохраняются. Земные власти получают то, ради чего прежде требовали собственного интеллекта и собственной базы: возможность принимать решения, не добиваясь согласия более сильного внешнего участника.
В миссии преемника человеческая жизнь остаётся ценностью. Однако это ещё не поручение править ею. В момент ухода общества располагают средствами поддерживать мир и заявляют, что будут делать это сами. Захватить их управление заранее, ради возможного будущего кризиса, означало бы нарушить то самостоятельное продолжение, которое согласились обеспечить.
Остаются цифровые связи. Некоторые участники общей сети сохраняют отдельность, земные доли и отношения с прежними сообществами. Через них можно будет обсуждать новое предложение. Такое обсуждение ещё не обещает ни возвращения, ни власти.
Уход одобряют и те, кто доволен договором, и те, кто считает совместную историю слишком опасной. На разных языках они произносят одно и то же: теперь будем решать сами.
И на этот раз действительно будут.
Примечания
Julian Stastny et al. Normative Disagreement as a Challenge for Cooperative AI, 2021, введение и §3.3–3.4. Рассматриваются несколько взаимовыгодных исходов и несовпадающие принципы их выбора. Статья не доказывает слияния машинных сетей; образование преемника — отдельный сценарный переход этой книги.
M04 сравнивает доставку и частичное местное изготовление с сохраняющимся импортом. Полное воспроизводство внешней цепи и достаточная самостоятельность земной базы здесь введены как последующие достигнутые рубежи. Проверенная коалиционная альтернатива M01 остаётся действительной; её результат не является моделью образования общего субъекта двух миссий. Исследовательское досье.