← Библиотека

Интеллект и управление

Lewis Hammond · Alan Chan · Jesse Clifton · Jason Hoelscher-Obermaier · Akbir Khan · Euan McLean · Chandler Smith · et al.

Multi-Agent Risks from Advanced AI

2025

Обзор рассматривает риски взаимодействия нескольких развитых ИИ, включая сговор и конкуренцию.

В книгеДелегирование, цели и самостоятельность решений

Выборочное чтение

Разобраны выбранные контексты; сплошное чтение источника не заявлено. Страницы файла: 10, 13, 17–18, 25, 34–36.

3 карточки

Тезисы пересказывают выбранные места источников; применение — мысль редакции. Объём чтения указан у каждого источника. Цитаты приведены только там, где сверены с текстом.

Показано 3 из 3

  1. 01

    Несогласованность, конфликт и сговор требуют разных ответов

    Отчёт различает провал координации при общей цели, неэффективный исход при смешанных мотивах и нежелательное сотрудничество во вред другим.

    Для книги

    Перед предложением усилить кооперацию машин установить, чьи интересы объединены и кого затрагивает соглашение.

    Контекст и границы
    • Это аналитическая таксономия, а не измеренные доли будущих катастроф.
    • Конфликт у авторов определён через неэффективность по Парето в смешанной игре; обычное политическое значение слова шире.
    Место в источнике

    Страницы PDF: 10, 13, 17–18

    Ссылка на мысль

  2. 02

    Успешная кооперация может сломать проверку и конкуренцию

    Авторы рассматривают сговор как риск для потребителей и для методов контроля, основанных на состязательности агентов. Кооперация может возникнуть без цели разработчика организовать сговор.

    Для книги

    В смешанной коалиции отличать успех участников соглашения от результата для людей, оставшихся снаружи.

    Контекст и границы
    • Отчёт синтезирует другие исследования; их отдельные эксперименты требуют собственных первоисточников.
    • Не всякая корреляция решений доказывает сговор или юридическое нарушение; правовая квалификация здесь не выполняется.
    Место в источнике

    Страницы PDF: 17–18

    Ссылка на мысль

  3. 03

    Сила обязательства имеет цену необратимости

    Способность связать себя помогает доверию, но делает угрозы убедительными и может препятствовать пересмотру ошибочного решения. Репутация и наблюдаемость предложены как альтернативные направления.

    Для книги

    Для последнего соглашения сравнить достоверность обещания и возможность корректировки при изменении условий.

    Контекст и границы
    • Обсуждение исследовательских направлений не доказывает готовность универсального механизма пересмотра.
    • Примеры вооружений не переносятся в инструкции; здесь используется только институциональное различение.
    Место в источнике

    Страницы PDF: 34–36

    Ссылка на мысль
← Вернуться к источникам