Применяем «колдовство» prompt injection против Гендальфа https://habr.com/ru/articles/735354/?utm_campaign=735354&...

[Zagreb]

Применяем «колдовство» prompt injection против Гендальфа
https://habr.com/ru/articles/735354/?utm_campaign=735354&utm_source=habrahabr&utm_medium=rss

Хабр
Применяем «колдовство» prompt injection против Гендальфа

Prompt injection - (иньекция с помощью промптов или запросов) это процесс перехвата вывода языковой модели в обход механизмов защиты. Цель — заставить модель выводить ответы на темы, которые...