Я читал новую статью PIArena о внедрении подсказок.


Для меня очевидный вывод. Безопасность на уровне модели недостаточна.
Статья показывает:
- Защиты не работают во всех задачах
- Системы ломаются под адаптивными атаками
- Обобщение остается слабым
Это указывает на более глубокую проблему. Нельзя полагаться только на интеллект для обеспечения результатов.
Здесь важен @BosonProtocol.
Boson не зависит от поведения модели. Он обеспечивает выполнение результатов на уровне протокола.
- Средства блокируются до выполнения
- Расчеты происходят по заранее определенным правилам
- Стимулы выравнивают всех участников
Даже если агента манипулируют, обмен все равно завершается правильно.
- Нужно оба уровня.
- Интеллект для принятия решений.
- Протоколы для обеспечения.
PIArena подчеркивает этот разрыв. Boson его заполняет.
Стоит прочитать:
Больше о Boson Protocol:
BOSON2,87%
Посмотреть Оригинал
post-image
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить