ભ્રામકતા

વ્યાખ્યા

AI માં, ભ્રામકતા એ એવા કિસ્સાઓનો ઉલ્લેખ કરે છે જ્યાં કોઈ મોડેલ એવા આઉટપુટ ઉત્પન્ન કરે છે જે અસ્ખલિત હોય છે પરંતુ હકીકતમાં ખોટા અથવા અર્થહીન હોય છે. તે ખાસ કરીને મોટા ભાષા મોડેલો અને જનરેટિવ AI માં સામાન્ય છે.

હેતુ

ભ્રામકતાનો અભ્યાસ મોડેલની વિશ્વસનીયતા અને સલામતી સુધારવામાં મદદ કરે છે. તે વિકાસકર્તાઓને અચોક્કસ આઉટપુટ શોધવા અને ઘટાડવા માટે સલામતીના પગલાં ડિઝાઇન કરવાની મંજૂરી આપે છે.

મહત્વ

• જો ધ્યાન ન આપવામાં આવે તો AI માં વિશ્વાસ ઓછો થાય છે.
• આરોગ્યસંભાળ અથવા કાયદા જેવા સંવેદનશીલ કાર્યક્રમોમાં નુકસાન પહોંચાડી શકે છે.
• વર્તમાન જનરેટિવ મોડેલ્સની મર્યાદાઓને પ્રકાશિત કરે છે.
• વાસ્તવિક ગ્રાઉન્ડિંગ અને પુનઃપ્રાપ્તિ પદ્ધતિઓમાં સંશોધનને પ્રોત્સાહન આપે છે.

તે કેવી રીતે કામ કરે છે

1. મોડેલને પ્રોમ્પ્ટ અથવા ક્વેરી મળે છે.
2. શીખેલા દાખલાઓના આધારે આઉટપુટ ઉત્પન્ન કરે છે, હકીકત ચકાસણીના આધારે નહીં.
3. કદાચ વાજબી લાગે પણ ખોટા પરિણામો આપી શકે છે.
4. શોધ અને સુધારણા તકનીકોનો ઉપયોગ કરવામાં આવે છે (દા.ત., RAG).

ઉદાહરણો (વાસ્તવિક દુનિયા)

• ચેટજીપીટી ક્યારેક પૂછવામાં આવે ત્યારે ખોટી હકીકતો રજૂ કરે છે.
• ગૂગલ બાર્ડના પ્રારંભિક ડેમોમાં હકીકતલક્ષી ભૂલો દર્શાવવામાં આવી હતી.
• AI-જનરેટેડ તબીબી સલાહમાં ક્યારેક અચોક્કસતા હોય છે.

સંદર્ભો / વધુ વાંચન

• "મોટા ભાષા મોડેલોમાં ભ્રામકતા ઘટાડવી" - arXiv પ્રીપ્રિન્ટ.
• NIST AI રિસ્ક મેનેજમેન્ટ ફ્રેમવર્ક.
• મિશેલ અને અન્ય. "મોડેલ રિપોર્ટિંગ માટે મોડેલ કાર્ડ્સ." ACM FACcT.
• AI આભાસના કારણો