Безопасность данных и контроль ИИ

ИИ не получает свободу действий вместе с доступом к данным.

Размещение, источники, роли и разрешённые операции проектируются вместе с рабочим процессом. Если у ИИ-помощника нет права на источник или действие, запрос пользователя не может это право добавить.

Периметр

Данные проходят только по согласованному маршруту.

Схема ниже показывает принцип. Точная архитектура зависит от требований заказчика и подтверждается до внедрения.

Ответы на основные опасения

Не «доверьтесь ИИ», а проверьте ограничения.

Мы раскрываем то, что действительно можно подтвердить, и не заменяем технические документы общими обещаниями.

Где хранятся данные?

Решение можно разместить в контуре заказчика или в выделенном изолированном облаке. Конкретная схема, сроки хранения и удаление утверждаются до подключения.

Может ли ИИ получить лишний доступ?

Нет через обычный запрос. Для людей и ИИ-помощников задаются отдельные роли: разрешённые источники, организации и действия. Текст запроса не расширяет технические права роли.

Что происходит с банковскими данными?

Подключение настраивается по согласованному регламенту: отдельно задаются юридические лица, расписание получения выписок, база 1С и правила обработки операций.

Что будет с обновлениями 1С?

Автоматизацию можно вынести во внешнюю обработку, чтобы не менять типовую конфигурацию без необходимости и не мешать её плановым обновлениям.

Можно ли восстановить действия?

Существенные обращения, использованные источники, результат проверки, передача человеку и исправления сохраняются в журнале действий.

Проверяется ли защищённость?

Для реализованного решения проводились проверки на отсутствие критических уязвимостей. Состав проверки и подтверждающие материалы предъявляются в рамках конкретного проекта.

Как уменьшаем ошибки ИИ

Галлюцинации нельзя отменить обещанием. Их сдерживает устройство процесса.

Для учётных операций Aivel использует три линии контроля качества. Чем выше неоднозначность, тем раньше результат передаётся человеку.

01

Правила согласованности

Итоги сверяются со строками, реквизиты — между собой, а допустимые значения — с правилами процесса.

02

Оценка неоднозначности

Система учитывает вероятность ошибки и не должна выдавать сомнительный случай за уверенно завершённый.

03

Человек и журнал

Неоднозначные случаи идут на ручную проверку, а действия и исправления оставляют проверяемый след.

ИИ может

Распознать, сопоставить, выполнить разрешённую операцию по правилу и подготовить основание.

ИИ не может

Сам расширить свою роль, скрыть нехватку данных или принять профессиональное решение вместо ответственного человека.

Банк и 1С

Доступы разделены по системе, юридическому лицу и действию.

Банковский ИИ-помощник получает выписки по регламенту, извлекает реквизиты, сопоставляет операции с договорами и готовит данные для 1С. Правила выбора базы, аналитики и обработки платежа задаются заранее.

  1. 01
    Подключение

    Согласованные банки и юридические лица.

  2. 02
    Регламент

    Расписание, база 1С и разрешённый процесс.

  3. 03
    Проверка

    Правила, неоднозначность и исключения.

  4. 04
    Журнал

    Основание действия и результат обработки.

Без вымышленных сертификатов. Архитектура, результаты проверок защищённости, договорные условия и требования к хранению подтверждаются документами конкретного проекта.

Разобрать ваш контур

Сначала определим данные, действия и границы доступа.

Не отправляйте закрытые сведения через открытую форму. На первом разговоре достаточно описать процесс и требования к размещению.

Первый разговор

Что в вашем бизнесе нельзя узнать слишком поздно?

Не указывайте ИНН, суммы, имена контрагентов и другие закрытые сведения. Детали обсудим в защищённом канале.

После проверки появится ссылка на подготовленное письмо. Сайт сам ничего не отправляет.