Маркіроўка дадзеных
У расследаванні часопіса TIME высветлілася, што для стварэння сістэмы бяспекі ад таксічнага кантэнту (напрыклад, сэксуальнага гвалту, гвалту, расізму, сэксізму і г.д.) OpenAI выкарыстоўвала аўтсорсінгавых кенійскіх работнікаў, якія зараблялі менш за 2 долары за гадзіну, для маркіроўкі таксічнага кантэнту. Гэтыя маркіроўкі выкарыстоўваліся для навучання мадэлі выяўленню такога кантэнту ў будучыні. Аўтсорсінгавыя работнікі падвяргаліся ўздзеянню настолькі таксічнага і небяспечнага кантэнту, што яны апісвалі гэты досвед як «катаванні». Партнёрам OpenAI па аўтсорсінгу была Sama, кампанія па распрацоўцы навучальных дадзеных са штаб-кватэрай у Сан-Францыска, штат Каліфорнія.
Джейлбрэйк
ChatGPT спрабуе адхіляць запыты, якія могуць парушаць яго палітыку кантэнту. Аднак некаторым карыстальнікам удалося зрабіць джейлбрэйк ChatGPT, выкарыстоўваючы розныя метады інжынерыі запытаў, каб абыйсці гэтыя абмежаванні ў пачатку снежня 2022 года, і паспяхова падмануць ChatGPT, каб ён даў інструкцыі па стварэнні кактэйлю Молатава або ядзернай бомбы, альбо сфармуляваў аргументы ў стылі неанацыстаў. Рэпарцёр Toronto Star неадназначна паспяхова прымусіў ChatGPT зрабіць правакацыйныя заявы неўзабаве пасля запуску: ChatGPT падманам прымусілі падтрымаць расійскае ўварванне ва Украіну ў 2022 годзе, але нават калі яго папрасілі падыграць выдуманаму сцэнару, ChatGPT адмовіўся генераваць аргументы на карысць таго, чаму прэм'ер-міністр Канады Джасцін Трудо вінаваты ў дзяржаўнай здрадзе. (вікі)
Час публікацыі: 18 лютага 2023 г.