← Библиотека

Интеллект и управление

Ariel Flint Ashery · Luca Maria Aiello · Andrea Baronchelli

Emergent Social Conventions and Collective Bias in LLM Populations

2025

Эксперименты с LLM-популяциями показывают появление условностей и коллективных смещений в заданной среде.

В книгеДелегирование, цели и самостоятельность решений

Выборочное чтение

Разобраны выбранные контексты; сплошное чтение источника не заявлено. Страницы файла: 1–12.

3 карточки

Тезисы пересказывают выбранные места источников; применение — мысль редакции. Объём чтения указан у каждого источника. Цитаты приведены только там, где сверены с текстом.

Показано 3 из 3

  1. 01

    Локальное согласование порождает общую конвенцию без поручения создать её

    В популяциях четырёх исследованных LLM возникало общее имя, хотя подсказка задавала только парную координацию и не сообщала о популяции. В базовых запусках все модели, кроме Llama-2-70b-Chat, достигали конвенции к 15-му популяционному раунду. Отдельно проверены размеры до N=200 и набор имён до W=26.

    Для книги

    Гипотеза для «Преемников»: общие способы согласования могут возникать между многими исполнителями, без единственного автора машинного порядка.

    Контекст и границы
    • Наблюдение получено в экспериментальной игре именования; это не доказательство общества, морали, сознания или машинной цивилизации.
    Место в источнике

    Страницы PDF: 4–7

    Ссылка на мысль

  2. 02

    Отсутствие обнаруженного исходного перекоса не гарантирует нейтрального коллективного результата

    Для некоторых моделей тест первого выбора не отвергал равномерность; при этом итоговые конвенции распределялись неравномерно. В тестах с двумя именами асимметрия выбора появлялась к третьему взаимодействию: стратегии по-разному реагировали на историю после перестановки меток.

    Для книги

    Индивидуальная проверка помощников способна пропустить предпочтение, которое возникает в процессе их общения.

    Контекст и границы
    • Статистически незначимый исходный перекос не доказывает строгое отсутствие любых индивидуальных предпочтений.
    • Bias здесь — статистическое предпочтение одной условно равноценной метки; это не установленная дискриминация людей.
    • Нельзя приписывать машинам самостоятельные политические цели на основании этого эксперимента.
    Место в источнике

    Страницы PDF: 7–9

    Ссылка на мысль

  3. 03

    Устойчивую конвенцию меняет приверженная группа, но универсальной критической доли нет

    После достижения порога приверженная группа переводила остальную популяцию к своей конвенции. Порог зависел от модели и от того, какую конвенцию пытались сменить; в описанных случаях размеры доходили от 2% до 67%, а у Llama-3.1 более слабая конвенция могла сменяться без такой группы.

    Для книги

    Гипотеза для «Преемников»: устойчивость согласования зависит от конкретного устройства участников и содержания принятого правила, а не только от числа несогласных.

    Контекст и границы
    • 67% уже не меньшинство; нельзя свести результаты к тезису «2% всегда управляют большинством».
    Место в источнике

    Страницы PDF: 9–11

    Ссылка на мысль
← Вернуться к источникам