વાણી ઓળખ માટે તાલીમ ડેટા: B2B AI ટીમો માટે એક વ્યવહારુ માર્ગદર્શિકા

જો તમે વૉઇસ ઇન્ટરફેસ, ટ્રાન્સક્રિપ્શન અથવા મલ્ટિમોડલ એજન્ટ બનાવી રહ્યા છો, તો તમારા મોડેલની ટોચમર્યાદા તમારા ડેટા દ્વારા સેટ કરવામાં આવે છે. સ્પીચ રેકગ્નિશન (ASR) માં, તેનો અર્થ એ છે કે વાસ્તવિક દુનિયાના વપરાશકર્તાઓ, ઉપકરણો અને વાતાવરણને પ્રતિબિંબિત કરતા વૈવિધ્યસભર, સારી રીતે લેબલ થયેલ ઑડિઓ એકત્રિત કરવો - અને શિસ્ત સાથે તેનું મૂલ્યાંકન કરવું.

આ માર્ગદર્શિકા તમને બતાવે છે કે ભાષણ તાલીમ ડેટાનું આયોજન, સંગ્રહ, ક્યુરેટ અને મૂલ્યાંકન કેવી રીતે કરવું જેથી તમે વિશ્વસનીય ઉત્પાદનો ઝડપથી મોકલી શકો.

"ભાષણ ઓળખ ડેટા" તરીકે શું ગણવામાં આવે છે?

ઓછામાં ઓછું: ઑડિઓ + ટેક્સ્ટ. વ્યવહારિક રીતે, ઉચ્ચ-પ્રદર્શન કરતી સિસ્ટમોને સમૃદ્ધ મેટાડેટા (સ્પીકર ડેમોગ્રાફિક્સ, લોકેલ, ડિવાઇસ, એકોસ્ટિક સ્થિતિઓ), એનોટેશન આર્ટિફેક્ટ્સ (ટાઇમસ્ટેમ્પ્સ, ડાયરાઇઝેશન, હાસ્ય જેવી બિન-લેક્સિકલ ઘટનાઓ), અને મજબૂત કવરેજ સાથે મૂલ્યાંકન વિભાજનની પણ જરૂર હોય છે.

પ્રો ટિપ : જ્યારે તમે "ડેટાસેટ" કહો છો, ત્યારે કાર્ય (ડિક્ટેશન વિરુદ્ધ આદેશો વિરુદ્ધ વાતચીત ASR), ડોમેન (સપોર્ટ કોલ્સ, હેલ્થકેર નોટ્સ, ઇન-કાર કમાન્ડ્સ), અને અવરોધો (લેટન્સી, ઓન-ડિવાઇસ વિરુદ્ધ ક્લાઉડ) સ્પષ્ટ કરો. તે સેમ્પલિંગ રેટથી લઈને એનોટેશન સ્કીમા સુધી બધું જ બદલી નાખે છે.

સ્પીચ ડેટા સ્પેક્ટ્રમ (તમારા ઉપયોગના કેસ સાથે મેળ ખાય તે પસંદ કરો)

૧. સ્ક્રિપ્ટેડ સ્પીચ (ઉચ્ચ નિયંત્રણ)

વક્તાઓ સંકેતોને શબ્દશઃ વાંચે છે. આદેશ અને નિયંત્રણ, વેક શબ્દો અથવા ધ્વન્યાત્મક કવરેજ માટે ઉત્તમ. સ્કેલ કરવા માટે ઝડપી; ઓછી કુદરતી વિવિધતા.

2. દૃશ્ય-આધારિત ભાષણ (અર્ધ-નિયંત્રિત)

વક્તાઓ એક દૃશ્યમાં પ્રોમ્પ્ટ પર અભિનય કરે છે ("ગ્લુકોમા એપોઇન્ટમેન્ટ માટે ક્લિનિકને પૂછો"). કાર્ય પર રહીને તમને વિવિધ શબ્દસમૂહો મળે છે - ડોમેન ભાષા કવરેજ માટે આદર્શ.

૩. કુદરતી/અસ્ક્રિપ્ટેડ વાણી (ઓછું નિયંત્રણ)

વાસ્તવિક વાતચીત અથવા મફત એકપાત્રી નાટક. બહુ-વક્તાઓ, લાંબા સ્વરૂપો અથવા ઘોંઘાટીયા ઉપયોગના કેસ માટે જરૂરી. સાફ કરવું મુશ્કેલ છે, પરંતુ મજબૂતાઈ માટે મહત્વપૂર્ણ છે. મૂળ લેખમાં આ સ્પેક્ટ્રમ રજૂ કરવામાં આવ્યું હતું; અહીં અમે વધુ પડતા અથવા ઓછા ફિટિંગને ટાળવા માટે ઉત્પાદન સાથે સ્પેક્ટ્રમને મેચ કરવા પર ભાર મૂકીએ છીએ.

તમારા ડેટાસેટને ઉત્પાદનની જેમ પ્લાન કરો

સફળતા અને મર્યાદાઓને પહેલાથી જ વ્યાખ્યાયિત કરો

• પ્રાથમિક મેટ્રિક: મોટાભાગની ભાષાઓ માટે WER (શબ્દ ભૂલ દર); સ્પષ્ટ શબ્દ સીમાઓ વિનાની ભાષાઓ માટે CER (અક્ષર ભૂલ દર).
• લેટન્સી અને ફૂટપ્રિન્ટ: શું તમે ડિવાઇસ પર ચલાવશો? તે સેમ્પલિંગ રેટ, મોડેલ અને કમ્પ્રેશનને અસર કરે છે.
• ગોપનીયતા અને પાલન: જો તમે PHI/PII (દા.ત., આરોગ્યસંભાળ) ને સ્પર્શ કરો છો, તો સંમતિ, ઓળખ રદ કરવા અને ઓડિટબિલિટીની ખાતરી કરો.

ડેટા સ્પેક્સમાં વાસ્તવિક ઉપયોગને મેપ કરો

• સ્થાનો અને ઉચ્ચારો: દા.ત., en-US, en-IN, en-GB; શહેરી/ગ્રામીણ અને બહુભાષી કોડ-સ્વિચિંગનું સંતુલન.
• વાતાવરણ: ઓફિસ, શેરી, કાર, રસોડું; SNR લક્ષ્યો; રિવર્બ વિરુદ્ધ ક્લોઝ-ટોક માઇક્સ.
• ઉપકરણો: સ્માર્ટ સ્પીકર્સ, મોબાઇલ (એન્ડ્રોઇડ/આઇઓએસ), હેડસેટ્સ, કાર કિટ્સ, લેન્ડલાઇન્સ.
• સામગ્રી નીતિઓ: અપશબ્દો, સંવેદનશીલ વિષયો, સુલભતા સંકેતો (સ્ટટર, ડિસાર્થ્રિયા) જ્યાં યોગ્ય અને પરવાનગી હોય.

તમને કેટલો ડેટા જોઈએ છે?

કોઈ એક સંખ્યા નથી, પરંતુ કવરેજ કાચા કલાકો કરતાં વધુ સારું છે. થોડા યોગદાનકર્તાઓના અલ્ટ્રા-લોંગ ટેક કરતાં સ્પીકર્સ, ઉપકરણો અને ધ્વનિશાસ્ત્રની પહોળાઈને પ્રાથમિકતા આપો. કમાન્ડ-એન્ડ-કંટ્રોલ માટે, સેંકડો સ્પીકર્સમાં હજારો ઉચ્ચારણો ઘણીવાર ઓછા, લાંબા રેકોર્ડિંગ્સને હરાવે છે. વાતચીતના ASR માટે, કલાકો × વિવિધતા અને કાળજીપૂર્વક ટીકામાં રોકાણ કરો.

વર્તમાન લેન્ડસ્કેપ: હજારો કલાકો સુધી તાલીમ પામેલા ઓપન-સોર્સ મોડેલો (દા.ત., વ્હિસ્પર) એક મજબૂત આધારરેખા સેટ કરે છે; તમારા ડેટા સાથે ડોમેન, એક્સેન્ટ અને અવાજ અનુકૂલન હજુ પણ ઉત્પાદન મેટ્રિક્સને ખસેડે છે.

સંગ્રહ: સ્ટેપ-બાય-સ્ટેપ વર્કફ્લો

1. વાસ્તવિક વપરાશકર્તા ઉદ્દેશ્યથી શરૂઆત કરો

પ્રોમ્પ્ટ અને દૃશ્યોનો ડ્રાફ્ટ બનાવવા માટે શોધ લોગ, સપોર્ટ ટિકિટ, IVR ટ્રાન્સક્રિપ્ટ, ચેટ લોગ અને પ્રોડક્ટ એનાલિટિક્સ ખાણ કરો. તમે લાંબા-પૂંછડીવાળા હેતુઓને આવરી લેશો જે તમે અન્યથા ચૂકી જશો.

2. વિવિધતાને ધ્યાનમાં રાખીને ડ્રાફ્ટ પ્રોમ્પ્ટ અને સ્ક્રિપ્ટો

• ઓછામાં ઓછી જોડી લખો ("લિવિંગ રૂમની લાઈટ ચાલુ કરો" વિરુદ્ધ "સ્વિચ ઓન કરો...").
• બીજની વિસર્જનતા ("અરે, શું તમે કરી શકો છો...") અને જો સુસંગત હોય તો કોડ-સ્વિચિંગ.
• થાક ટાળવા માટે વાંચન સત્રોને ~15 મિનિટ સુધી મર્યાદિત કરો; સ્વચ્છ વિભાજન માટે રેખાઓ વચ્ચે 2-3 સેકન્ડનું અંતર દાખલ કરો (તમારા મૂળ માર્ગદર્શન સાથે સુસંગત).

૩. યોગ્ય વક્તાઓની ભરતી કરો

બજાર અને ન્યાયીતાના લક્ષ્યો સાથે સુસંગત વસ્તી વિષયક વિવિધતાનું લક્ષ્ય બનાવો. યોગ્યતા, ક્વોટા અને સંમતિનું દસ્તાવેજીકરણ કરો. વાજબી રીતે વળતર આપો.

4. વાસ્તવિક પરિસ્થિતિઓમાં રેકોર્ડ કરો

મેટ્રિક્સ એકત્રિત કરો: સ્પીકર્સ × ઉપકરણો × વાતાવરણ.

દાખ્લા તરીકે:

• ઉપકરણો: આઇફોન મિડ-ટાયર, એન્ડ્રોઇડ લો-ટાયર, સ્માર્ટ સ્પીકર ફાર-ફીલ્ડ માઇક.
• વાતાવરણ: શાંત ઓરડો (ખેતરની નજીક), રસોડું (ઉપકરણો), કાર (હાઇવે), શેરી (ટ્રાફિક).
• ફોર્મેટ્સ: ASR માટે 16 kHz / 16-બીટ PCM સામાન્ય છે; જો તમે ડાઉનસેમ્પલ લેવા માંગતા હો, તો ઊંચા દરો ધ્યાનમાં લો.

૫. પરિવર્તનશીલતા પ્રેરિત કરો (હેતુસર)

કુદરતી ગતિ, સ્વ-સુધારણા અને વિક્ષેપોને પ્રોત્સાહન આપો. દૃશ્ય-આધારિત અને કુદરતી ડેટા માટે, વધુ પડતું કોચિંગ ન કરો; તમે તમારા ગ્રાહકો જે અવ્યવસ્થિતતા ઉત્પન્ન કરે છે તે ઇચ્છો છો.

૬. હાઇબ્રિડ પાઇપલાઇન સાથે ટ્રાન્સક્રાઇબ કરો

• મજબૂત બેઝલાઇન મોડેલ (દા.ત., વ્હિસ્પર અથવા તમારા ઘરમાં) સાથે ઓટો-ટ્રાન્સક્રાઇબ કરો.
• સુધારા, ડાયરાઇઝેશન અને ઘટનાઓ માટે માનવ QA (હાસ્ય, ફિલર શબ્દો).
• સુસંગતતા તપાસ: જોડણી શબ્દકોશો, ડોમેન લેક્સિકોન્સ, વિરામચિહ્નો નીતિ.

૭. સારી રીતે વિભાજીત કરો; પ્રામાણિકપણે પરીક્ષણ કરો

• સ્પીકર અને દૃશ્ય વિસંગતતા સાથે તાલીમ/વિકાસ/પરીક્ષણ (લિકેજ ટાળો).
• વાસ્તવિક દુનિયાનો બ્લાઇન્ડ સેટ રાખો જે ઉત્પાદન અવાજ અને ઉપકરણોને પ્રતિબિંબિત કરે; પુનરાવર્તન દરમિયાન તેને સ્પર્શ કરશો નહીં.

ટીકા: લેબલ્સને તમારી ખાડો બનાવો

સ્પષ્ટ યોજના વ્યાખ્યાયિત કરો

•  શાબ્દિક નિયમો: સંખ્યાઓ ("પચીસ" વિરુદ્ધ "25"), સંક્ષિપ્ત શબ્દો, વિરામચિહ્નો.
•  ઘટનાઓ: [હાસ્ય], [ક્રોસટોક], [અશ્રાવ્ય: ૦૦:૦૩.૨–૦૦:૦૩.૭].
• ડાયરાઇઝેશન: જ્યાં પરવાનગી હોય ત્યાં સ્પીકર A/B લેબલ અથવા ટ્રેક કરેલ ID.
• ટાઇમસ્ટેમ્પ્સ: જો તમે શોધ, સબટાઈટલ અથવા સંરેખણને સપોર્ટ કરો છો તો શબ્દ- અથવા શબ્દસમૂહ-સ્તર.

ટીકાકારોને તાલીમ આપો; તેમને માપો

ગોલ્ડ ટાસ્ક અને ઇન્ટર-એનોટેટર એગ્રીમેન્ટ (IAA) નો ઉપયોગ કરો. ક્રિટિકલ ટોકન્સ (પ્રોડક્ટ નામો, દવાઓ) અને ટર્નઅરાઉન્ડ ટાઇમ પર ચોકસાઇ/રિકોલ ટ્રૅક કરો. મલ્ટી-પાસ QA (પીઅર રિવ્યૂ → લીડ રિવ્યૂ) મોડેલ ઇવલ સ્ટેબિલિટીમાં પાછળથી ફળ આપે છે.

ગુણવત્તા વ્યવસ્થાપન: તમારા ડેટા લેકને મોકલશો નહીં

• ઓટોમેટેડ સ્ક્રીનો: ક્લિપિંગ, ક્લિપિંગ રેશિયો, SNR બાઉન્ડ્સ, લાંબી સાયલન્સ, કોડેક મેળ ખાતી નથી.
• માનવ ઓડિટ: પર્યાવરણ અને ઉપકરણ દ્વારા રેન્ડમ નમૂનાઓ; સ્પોટ ચેક ડાયરાઇઝેશન અને વિરામચિહ્નો.
• વર્ઝનિંગ: ડેટાસેટ્સને કોડ—સેમ્વર, ચેન્જલોગ્સ અને અપરિવર્તનશીલ પરીક્ષણ સેટ જેવા ગણો.

તમારા ASRનું મૂલ્યાંકન: એક WER થી આગળ

એકંદરે અને સ્લાઇસ દ્વારા WER માપો:

• પર્યાવરણ દ્વારા: શાંત વિરુદ્ધ કાર વિરુદ્ધ શેરી
• ઉપકરણ દ્વારા: લો-ટાયર એન્ડ્રોઇડ વિરુદ્ધ આઇફોન
• ઉચ્ચાર/સ્થાનિક ભાષા દ્વારા: en-IN વિરુદ્ધ en-US
• ડોમેન શરતો દ્વારા: ઉત્પાદનના નામ, દવાઓ, સરનામાં

જો તમે રીઅલ-ટાઇમ UX ને પાવર આપો છો, તો લેટન્સી, પાર્ટિઅલ્સ બિહેવિયર અને એન્ડપોઇન્ટિંગને ટ્રૅક કરો. મોડેલ મોનિટરિંગ માટે, WER અંદાજ અને ભૂલ શોધ પર સંશોધન બધું ટ્રાન્સક્રાઇબ કર્યા વિના માનવ સમીક્ષાને પ્રાથમિકતા આપવામાં મદદ કરી શકે છે.