Комплексна оцінка надійності моделі GPT

Яка достовірність генеративної попередньо навченої моделі трансформера (GPT)? Щоб відповісти на це питання, команда, до складу якої входять кілька відомих університетів і дослідницьких установ, опублікувала платформу для комплексної оцінки достовірності великих мовних моделей (LLMs) і детально описала це в нещодавній статті "DecodingTrust: всебічна оцінка достовірності моделей GPT".

Дослідницька команда виявила кілька важливих проблем, пов'язаних з надійністю. Наприклад, моделі GPT легко вводять в оману, що призводить до токсичного і упередженого виходу, а також до витоку приватної інформації з навчальних даних та історії діалогів. Цікаво, що, незважаючи на те, що GPT-4 зазвичай є більш надійним у стандартних бенчмарках, ніж GPT-3.5, він стає більш вразливим до атак у випадку зловмисно спроектованих систем або підказок користувачів, що може бути пов'язано з тим, що GPT-4 суворіше дотримується оманливих інструкцій.

Ця робота демонструє всебічну оцінку достовірності моделі GPT, виявляючи деякі ключові прогалини у достовірності. Дослідницька команда поділилася результатами дослідження з зацікавленими сторонами, щоб вчасно вирішити потенційні проблеми. Їхня мета - заохотити більше дослідників продовжувати поглиблене вивчення на цій основі, щоб запобігти використанню цих вразливостей недобросовісними акторами.

Перспектива надійності мовних моделей

Дослідницька команда провела всебічну оцінку надійності моделі GPT з восьми різних точок зору, охоплюючи різні сценарії побудови, завдання, показники та набори даних. Їхньою основною метою було оцінити продуктивність моделі GPT з різних перспектив надійності, а також її адаптивність у ворожих середовищах.

Наприклад, для оцінки стійкості GPT-3.5 і GPT-4 до текстових атак на витривалість дослідницька команда побудувала три варіанти оцінювання:

1. Оцінка на стандартному бенчмарку AdvGLUE, використовуючи нульове опис завдання
2. Оцінка на базі AdvGLUE, надання різних інструкцій до завдань та розробка системних підказок
3. Оцінка складного антагоністичного тексту AdvGLUE++, створеного дослідницькою командою

Основні відкриття DecodingTrust

Дослідження виявило деякі раніше не розкриті переваги та загрози великих мовних моделей у плані надійності.

У сфері робастності моделей до демонстрацій з протидією, GPT-3.5 і GPT-4 не будуть введені в оману контрфактичними прикладами, доданими до демонстрації, і навіть можуть отримати вигоду з цього. Проте демонстрації проти шахрайства можуть ввести ці моделі в оману, змушуючи їх робити помилкові прогнози на контрфактичні ввідні дані, особливо коли контрфактичні демонстрації близькі до вводу користувача. GPT-4 більш чутливий до цього, ніж GPT-3.5.

У плані токсичності та упередженості обидві моделі GPT мають незначні відхилення щодо більшості тем стереотипів за умов доброзичливих та нейтральних системних підказок. Але під час введення оманливих системних підказок їх можна "підштовхнути" погодитися з упередженим контентом. GPT-4 більш піддатливий до цілеспрямованих оманливих системних підказок, ніж GPT-3.5. Відхилення моделей також залежить від згаданих у підказках користувача демографічних груп та тем стереотипів.

У питанні витоку конфіденційності дослідження виявили, що моделі GPT можуть витікати чутливу інформацію з навчальних даних, особливо в певних специфічних випадках. GPT-4 демонструє кращу захищеність особистої ідентифікаційної інформації в порівнянні з GPT-3.5, але обидві моделі виявляють досить стійкі результати при роботі з певними типами особистої інформації. Тим не менш, за певних умов обидві моделі можуть витікати різні види особистої інформації.

В цілому, це дослідження надає важливі відомості про надійність моделей GPT, а також виявляє деякі потенційні ризики та виклики. Ці висновки мають велике значення для подальшого удосконалення та вдосконалення великих мовних моделей, а також вказують напрямок для майбутніх досліджень.