ВТБ и МГУ создали детекторы токсичности и галлюцинаций для ИИ-агентов. Первый отсечет запрещенный контент, второй проверит ответы нейросети на выдуманные факты и противоречия. Если найдут проблему, ответ можно отправить на повторную проверку или заблокировать. Для финансовых сервисов это важно, чтобы нейросеть не рекомендовала клиенту несуществующее. Банк планирует внедрить разработку в розничные сервисы с цифровыми помощниками. Теперь надо придумать детектор токсичности для коллег. @exploitex

Источник: https://t.me/exploitex/37569