செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது? [காணொளி மற்றும் வினாவிடை]

பதில்: ஒரு எளிய உரை சார்ந்த பணிக்கு செயற்கை நுண்ணறிவு மிகக் குறைந்த மின்சாரத்தையே பயன்படுத்தும். ஆனால், கட்டளைகள் நீளமாக இருக்கும்போதும், வெளியீடுகள் பன்முகத்தன்மை கொண்டவையாக இருக்கும்போதும், அல்லது அமைப்புகள் மிகப்பெரிய அளவில் செயல்படும்போதும் இது மிக அதிகமாகப் பயன்படும். பொதுவாக, ஆரம்பத்தில் அதிக ஆற்றலைச் செலவழிக்க வேண்டியது பயிற்சி அளிப்பதுதான். அதே சமயம், கோரிக்கைகள் குவியக் குவிய, அன்றாட ஊகச் செயல்பாடு குறிப்பிடத்தக்கதாகிறது.

முக்கிய குறிப்புகள்:

சூழல்: எந்தவொரு ஆற்றல் மதிப்பீட்டையும் குறிப்பிடுவதற்கு முன், பணி, மாதிரி, வன்பொருள் மற்றும் அளவு ஆகியவற்றை வரையறுக்கவும்.

பயிற்சி: வரவுசெலவுத் திட்டங்களைத் திட்டமிடும்போது, ​​மாதிரிப் பயிற்சியை முதன்மையான ஆரம்பகட்ட ஆற்றல் நிகழ்வாகக் கருதுங்கள்.

அனுமானம்: மீண்டும் மீண்டும் செய்யப்படும் அனுமானத்தை உன்னிப்பாகக் கவனியுங்கள், ஏனெனில் பெரிய அளவில் செயல்படுத்தும்போது, ​​ஒரு கோரிக்கைக்கான சிறிய செலவுகள் விரைவாகக் கூடிவிடும்.

உள்கட்டமைப்பு: எந்தவொரு யதார்த்தமான மதிப்பீட்டிலும் குளிரூட்டல், சேமிப்பகம், வலையமைப்புகள் மற்றும் பயன்படுத்தப்படாத திறன் ஆகியவற்றை உள்ளடக்கவும்.

செயல்திறன்: ஆற்றல் பயன்பாட்டைக் குறைக்க, சிறிய மாதிரிகள், குறுகிய அறிவுறுத்தல்கள், தற்காலிகச் சேமிப்பு மற்றும் தொகுத்தல் ஆகியவற்றைப் பயன்படுத்தவும்.

இதற்குப் பிறகு நீங்கள் படிக்க விரும்பக்கூடிய கட்டுரைகள்:

🔗 AI சுற்றுச்சூழலை எவ்வாறு பாதிக்கிறது
செயற்கை நுண்ணறிவின் கார்பன் தடம், ஆற்றல் பயன்பாடு மற்றும் நிலைத்தன்மை தொடர்பான சமரசங்களை விளக்குகிறது.

🔗 AI சுற்றுச்சூழலுக்கு மோசமானதா?
செயற்கை நுண்ணறிவு மாதிரிகள் மற்றும் தரவு மையங்களின் மறைக்கப்பட்ட சுற்றுச்சூழல் செலவுகளைப் பற்றி விவரிக்கிறது.

🔗 AI நல்லதா கெட்டதா? நன்மை தீமைகள்
செயற்கை நுண்ணறிவின் நன்மைகள், அபாயங்கள், நெறிமுறைகள் மற்றும் உண்மையான தாக்கங்கள் குறித்த ஒரு சீரான பார்வை.

🔗 செயற்கை நுண்ணறிவு என்றால் என்ன? ஒரு எளிய வழிகாட்டி
செயற்கை நுண்ணறிவின் அடிப்படைகள், முக்கிய சொற்கள் மற்றும் அன்றாட எடுத்துக்காட்டுகளை நிமிடங்களில் கற்றுக்கொள்ளுங்கள்.

மக்கள் நினைப்பதை விட இந்தக் கேள்வி ஏன் அதிக முக்கியத்துவம் வாய்ந்தது 🔍

செயற்கை நுண்ணறிவின் ஆற்றல் பயன்பாடு என்பது வெறும் சுற்றுச்சூழல் சார்ந்த ஒரு விவாதப் பொருள் மட்டுமல்ல. அது சில மிக உண்மையான விஷயங்களைத் தொடுகிறது:

• மின்சாரச் செலவு - குறிப்பாக அதிக எண்ணிக்கையிலான AI கோரிக்கைகளைச் செயல்படுத்தும் வணிகங்களுக்கு

• கார்பன் தாக்கம் - சர்வர்களுக்குப் பின்னால் உள்ள மின் மூலத்தைப் பொறுத்து

• வன்பொருள் மீதான அழுத்தம் - சக்திவாய்ந்த சிப்புகள் அதிக வாட்டேஜை இழுக்கின்றன.

• விரிவாக்க முடிவுகள் - ஒரு மலிவான அறிவிப்பு, மில்லியன் கணக்கான விலையுயர்ந்த அறிவிப்புகளாக மாறக்கூடும்.

• தயாரிப்பு வடிவமைப்பு - மக்கள் உணர்வதை விட செயல்திறன் பெரும்பாலும் ஒரு சிறந்த அம்சமாக விளங்குகிறது (கூகிள் கிளவுட், பசுமை செயற்கை நுண்ணறிவு).

பலர், “செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?” என்று கேட்கிறார்கள், ஏனெனில் அவர்கள் ஒரு வியத்தகு எண்ணை எதிர்பார்க்கிறார்கள். மிகப்பெரிய ஒன்று. தலைப்புச் செய்திகளுக்கு ஏற்ற ஒன்று. ஆனால், இதைவிடச் சிறந்த கேள்வி இதுதான்: நாம் எந்த வகையான செயற்கை நுண்ணறிவுப் பயன்பாட்டைப் பற்றிப் பேசுகிறோம்? ஏனெனில் அது எல்லாவற்றையும் மாற்றிவிடும். (ஐஇஏ)

ஒரே ஒரு தானியங்குப் பரிந்துரையா? மிகவும் சிறியது.
பிரம்மாண்டமான கிளஸ்டர்களில் ஒரு ஃபிரான்டியர் மாடலுக்குப் பயிற்சி அளிப்பதா? அதைவிட மிக மிகப் பெரியது.
மில்லியன் கணக்கான பயனர்களைச் சென்றடையும், எப்போதும் இயங்கும் ஒரு நிறுவன AI பணிப்பாய்வா? ஆம், அது மிக வேகமாகச் சேர்ந்துவிடும்... சில்லறைக் காசுகள் வாடகைப் பணமாக மாறுவதைப் போல. (DOE, கூகிள் கிளவுட்)

செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது? சுருக்கமான பதில் ⚡

இதோ நடைமுறை வடிவம்.

ஒரு சாதாரணப் பணிக்குத் தேவையான வாட்-மணியின் மிகச் சிறிய பகுதியிலிருந்து, பெரிய அளவிலான பயிற்சி மற்றும் செயல்பாட்டிற்குத் தேவையான பெருமளவிலான மின்சாரம் வரை செயற்கை நுண்ணறிவால் பயன்படுத்த முடியும். அந்த வரம்பு கேட்பதற்கு வேடிக்கையாகப் பரந்ததாகத் தோன்றுகிறது, ஏனெனில் அது உண்மையில் பரந்ததுதான். (கூகிள் கிளவுட், ஸ்ட்ரூபெல் மற்றும் பலர்.)

சுருக்கமாகச் சொன்னால்:

• எளிய அனுமானப் பணிகள் - பெரும்பாலும் ஒவ்வொரு பயன்பாட்டிற்கும் ஒப்பீட்டளவில் எளிமையானவை.

• நீண்ட உரையாடல்கள், பெரிய வெளியீடுகள், பட உருவாக்கம், காணொளி உருவாக்கம் - இவை குறிப்பிடத்தக்க அளவில் அதிக ஆற்றலைச் செலவழிக்கின்றன.

• பெரிய மாடல்களுக்குப் பயிற்சி அளித்தல் - மின் நுகர்வின் ஹெவிவெயிட் சாம்பியன்

• நாள் முழுவதும் செயற்கை நுண்ணறிவை பெரிய அளவில் இயக்குதல் - இங்கு “ஒரு கோரிக்கைக்கு சிறிய தொகை” என்பது “மொத்தத்தில் பெரிய கட்டணமாக” மாறுகிறது (கூகிள் கிளவுட், எரிசக்தித் துறை)

ஒரு பொதுவான விதி இதுதான்:

• பயிற்சி என்பது ஒரு மாபெரும் ஆரம்பகட்ட ஆற்றல் நிகழ்வு 🏭

• அனுமானம் என்பது தொடர்ந்து வரும் பயன்பாட்டுக் கட்டணம் 💡 (ஸ்ட்ரூபெல் மற்றும் பலர், கூகிள் ஆராய்ச்சி)

எனவே, யாராவது 'செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?' என்று கேட்டால் , அதற்கான நேரடியான பதில், “ஒரு குறிப்பிட்ட அளவு அல்ல - ஆனால் செயல்திறன் முக்கியத்துவம் பெறும் அளவுக்குப் போதுமானது, மேலும் அதன் அளவு முழு கதையையும் மாற்றும் அளவுக்குப் போதுமானது.” ( IEA , பசுமை செயற்கை நுண்ணறிவு )

மக்கள் விரும்பும் அளவுக்கு அது கவர்ச்சியாக இல்லை என்பது எனக்குத் தெரியும். ஆனால் அது உண்மைதான்.

ஒரு சிறந்த செயற்கை நுண்ணறிவு ஆற்றல் மதிப்பீட்டின் வடிவம் என்ன? 🧠

ஒரு நல்ல மதிப்பீடு என்பது, ஒரு வரைபடத்தில் வெறுமனே திணிக்கப்படும் ஒரு வியத்தகு எண் மட்டுமல்ல. ஒரு நடைமுறை மதிப்பீட்டில் சூழலும் அடங்கியிருக்க வேண்டும். இல்லையெனில், அது குளியலறைத் தராசைக் கொண்டு பனிமூட்டத்தை எடைபோடுவதைப் போன்றது. கேட்பதற்குப் பிரமாதமாகத் தோன்றும் அளவுக்கு நெருக்கமானது, ஆனால் நம்புவதற்குப் போதுமான நெருக்கம் இல்லாதது. (ஐஇஏ, கூகிள் கிளவுட்)

ஒரு முறையான AI ஆற்றல் மதிப்பீட்டில் பின்வருவன அடங்கியிருக்க வேண்டும்:

• பணி வகை - உரை, படம், ஒலி, காணொளி, பயிற்சி, செம்மைப்படுத்துதல்

• மாதிரியின் அளவு - பெரிய மாதிரிகளுக்கு பொதுவாக அதிக கணக்கீடு தேவைப்படும்.

• பயன்படுத்தப்படும் வன்பொருள் - எல்லா சில்லுகளும் ஒரே செயல்திறன் கொண்டவை அல்ல.

• அமர்வின் நீளம் - குறுகிய அறிவுறுத்தல்களும் நீண்ட பல-படி பணிப்பாய்வுகளும் மிகவும் வேறுபட்டவை.

• பயன்பாடு - செயலற்ற அமைப்புகளும் மின்சாரத்தை நுகரும்.

• குளிரூட்டல் மற்றும் உள்கட்டமைப்பு - சர்வர் மட்டுமே முழு செலவும் அல்ல.

• இடம் மற்றும் ஆற்றல் கலவை - மின்சாரம் எல்லா இடங்களிலும் ஒரே சீராகத் தூய்மையானதாக இல்லை (கூகிள் கிளவுட், ஐஇஏ)

இதனால்தான், செயற்கை நுண்ணறிவின் மின்சாரப் பயன்பாடு குறித்து இரண்டு பேர் விவாதிக்கும்போது, ​​முற்றிலும் மாறுபட்ட விஷயங்களைப் பற்றிப் பேசினாலும், இருவருமே நம்பிக்கையுடன் பேசுவது போல் தெரிகிறது. ஒருவர் ஒரு சாட்பாட் பதிலைக் குறிப்பிடுகிறார். மற்றொருவர் ஒரு மாபெரும் பயிற்சி ஓட்டத்தைக் குறிப்பிடுகிறார். இருவரும் "செயற்கை நுண்ணறிவு" என்று சொன்னதும், திடீரென்று உரையாடல் தடம் புரண்டுவிடுகிறது 😅

ஒப்பீட்டு அட்டவணை - செயற்கை நுண்ணறிவின் ஆற்றல் பயன்பாட்டை மதிப்பிடுவதற்கான சிறந்த வழிகள் 📊

இதை ஒரு நிகழ்த்துகலையாக மாற்றாமல், கேள்விக்குப் பதிலளிக்க முயற்சிக்கும் எவருக்கும் இதோ ஒரு நடைமுறை அட்டவணை.

ஒரு முழுமையான வழிமுறை என்று எதுவும் இல்லை. அதுதான் சற்றே எரிச்சலூட்டும் விஷயம். ஆனால், மதிப்பிற்குப் பல நிலைகள் உள்ளன. மேலும், பொதுவாக, முழுமையானதை விடப் பயனுள்ள ஒன்று சிறந்தது. (கூகிள் கிளவுட்)

மிகப்பெரிய காரணி மாயாஜாலம் அல்ல - அது கணினித் திறனும் வன்பொருளும்தான் 🖥️🔥

மக்கள் செயற்கை நுண்ணறிவின் ஆற்றல் பயன்பாட்டைக் கற்பனை செய்யும்போது, ​​மின்சாரத்தைப் பயன்படுத்தும் விஷயமாக அந்த மாடலையே பெரும்பாலும் நினைக்கிறார்கள். ஆனால் அந்த மாடல் என்பது வன்பொருளில் இயங்கும் ஒரு மென்பொருள் தர்க்கம். மின்சாரக் கட்டணம் அந்த வன்பொருளில்தான் காட்டப்படுகிறது. (ஸ்ட்ரூபெல் மற்றும் பலர், கூகிள் கிளவுட்)

மிகப்பெரிய மாறிகள் பொதுவாக பின்வருவனவற்றை உள்ளடக்கியுள்ளன:

• GPU அல்லது முடுக்கி வகை

• எத்தனை சில்லுகள் பயன்படுத்தப்படுகின்றன

• அவை எவ்வளவு காலம் சுறுசுறுப்பாக இருக்கும்

• நினைவகச் சுமை

• தொகுதி அளவு மற்றும் செயல்திறன்

• அமைப்பு நன்கு உகந்ததாக்கப்பட்டுள்ளதா அல்லது எல்லாவற்றையும் வலுக்கட்டாயமாகச் செயல்படுத்துகிறதா (கூகிள் கிளவுட், LLM ஆற்றல் பயன்பாட்டில் அளவாக்கம், தொகுத்தல் மற்றும் வழங்கும் உத்திகள்)

மிகவும் மேம்படுத்தப்பட்ட ஒரு அமைப்பு, குறைந்த ஆற்றலில் அதிக வேலையைச் செய்ய முடியும். ஒரு சீரற்ற அமைப்பு, அபாரமான நம்பிக்கையுடன் மின்சாரத்தை வீணடிக்கும். அது எப்படி என்று உங்களுக்குத் தெரியும் - சில அமைப்புகள் பந்தயக் கார்கள் போலவும், சிலவோ ராக்கெட்டுகள் டேப்பால் ஒட்டப்பட்ட ஷாப்பிங் வண்டிகள் போலவும் இருக்கின்றன 🚀🛒

ஆம், மாடலின் அளவு முக்கியமானது. பெரிய மாடல்களுக்கு அதிக நினைவகமும் அதிக கணக்கீடும் தேவைப்படும், குறிப்பாக நீண்ட வெளியீடுகளை உருவாக்கும்போதும் அல்லது சிக்கலான பகுத்தறிவைக் கையாளும்போதும். ஆனால் செயல்திறன் உத்திகள் இந்த நிலையை மாற்றக்கூடும்: ( LLM ஆற்றல் பயன்பாட்டில் பசுமை செயற்கை நுண்ணறிவு , அளவாக்கம், தொகுத்தல் மற்றும் சேவை உத்திகள் )

• அளவுப்படுத்தல்

• சிறந்த கண்காணிப்பு

• சிறிய சிறப்பு மாதிரிகள்

• தற்காலிக சேமிப்பு

• தொகுப்பு

• மேம்பட்ட வன்பொருள் திட்டமிடல் (LLM ஆற்றல் பயன்பாட்டில் அளவாக்கம், தொகுத்தல் மற்றும் வழங்கும் உத்திகள்)

எனவே, கேள்வி “மாதிரி எவ்வளவு பெரியது?” என்பது மட்டுமல்ல, “அது எவ்வளவு புத்திசாலித்தனமாக இயக்கப்படுகிறது?” என்பதும்தான்

பயிற்சி மற்றும் அனுமானம் - இவை இரண்டும் வெவ்வேறானவை 🐘🐇

இந்தப் பிளவுதான் ஏறக்குறைய எல்லோரையும் குழப்புகிறது.

பயிற்சி

பயிற்சி என்பது, ஒரு மாதிரி பிரம்மாண்டமான தரவுத் தொகுப்புகளிலிருந்து வடிவங்களைக் கற்றுக்கொள்வதாகும். இதில், பல சில்லுகள் நீண்ட நேரம் இயங்கி, மாபெரும் அளவிலான தரவுகளைக் கையாளக்கூடும். இந்தக் கட்டத்திற்கு அதிக ஆற்றல் தேவைப்படும். சில நேரங்களில் மிக அதிகமாகவே தேவைப்படும். (ஸ்ட்ரூபெல் மற்றும் பலர்.)

பயிற்சி ஆற்றல் பின்வருவனவற்றைப் பொறுத்தது:

• மாதிரி அளவு

• தரவுத்தொகுப்பு அளவு

• பயிற்சி ஓட்டங்களின் எண்ணிக்கை

• தோல்வியுற்ற சோதனை

• நுணுக்கமான சரிசெய்தல் பாஸ்கள்

• வன்பொருள் செயல்திறன்

• குளிரூட்டல் மேல்நிலை (ஸ்ட்ரூபெல் மற்றும் பலர், கூகிள் ஆராய்ச்சி)

மேலும், மக்கள் அடிக்கடி தவறவிடும் பகுதி இதுதான் - பொதுமக்கள் பெரும்பாலும், ஒரே ஒரு பெரிய பயிற்சி ஓட்டத்தை ஒருமுறை செய்துவிட்டால் கதை முடிந்துவிடும் என்று கற்பனை செய்கிறார்கள். நடைமுறையில், மேம்பாட்டில் மீண்டும் மீண்டும் செய்யப்படும் ஓட்டங்கள், சரிசெய்தல், மறுபயிற்சி, மதிப்பீடு மற்றும் முக்கிய நிகழ்வைச் சுற்றியுள்ள சலிப்பூட்டும் ஆனால் செலவுமிக்க அனைத்து தொடர்செயல்முறைகளும் அடங்கியிருக்கலாம். (ஸ்ட்ரூபெல் மற்றும் பலர், பசுமை செயற்கை நுண்ணறிவு)

அனுமானம்

அனுமானம் என்பது பயனரின் உண்மையான கோரிக்கைகளுக்கு மாதிரி பதிலளிக்கும் ஒரு முறையாகும். ஒரு கோரிக்கை பெரியதாகத் தெரியாமல் இருக்கலாம். ஆனால் அனுமானம் என்பது மீண்டும் மீண்டும், மில்லியன் கணக்கான முறை, சில சமயங்களில் பில்லியன் கணக்கான முறை நிகழ்கிறது. (கூகிள் ஆராய்ச்சி, எரிசக்தித் துறை)

அனுமான ஆற்றல் பின்வருவனவற்றுடன் வளர்கிறது:

• ஆரம்ப நீளம்

• வெளியீட்டு நீளம்

• பயனர்களின் எண்ணிக்கை

• தாமதத் தேவைகள்

• பன்முறை அம்சங்கள்

• செயல்பாட்டு நேர எதிர்பார்ப்புகள்

• பாதுகாப்பு மற்றும் பிந்தைய செயலாக்கப் படிகள் (கூகிள் கிளவுட், LLM ஆற்றல் பயன்பாட்டில் அளவாக்கம், தொகுத்தல் மற்றும் வழங்கும் உத்திகள்)

ஆகவே, பயிற்சி என்பது பூகம்பம். அனுமானம் என்பது ஓதம். ஒன்று வியத்தகுமானது, மற்றொன்று விடாப்பிடியானது, மேலும் இரண்டுமே கடற்கரையைச் சிறிதளவு மாற்றியமைக்கக் கூடியவை. இது ஒரு அசாதாரணமான உருவகம்தான், ஆனால் அது ஓரளவிற்குப் பொருந்திப் போகிறது.

மக்கள் மறந்துவிடும் மறைமுகமான எரிசக்தி செலவுகள் 😬

யாராவது சிப்பை மட்டும் பார்த்து AI-யின் மின்சாரப் பயன்பாட்டை மதிப்பிடும்போது, ​​அவர்கள் பொதுவாகக் குறைவாகவே கணக்கிடுகிறார்கள். அது எப்போதும் பேரழிவை ஏற்படுத்துவதில்லை, ஆனால் கணக்கில் எடுத்துக்கொள்ளும் அளவிற்குப் போதுமானது. (கூகிள் கிளவுட், IEA)

இதோ மறைக்கப்பட்ட துண்டுகள்:

குளிரூட்டல் ❄️

சர்வர்கள் வெப்பத்தை உருவாக்குகின்றன. சக்திவாய்ந்த செயற்கை நுண்ணறிவு வன்பொருள் அதிக வெப்பத்தை உருவாக்குகிறது. குளிர்வித்தல் என்பது தவிர்க்க முடியாதது. கணக்கீட்டிற்காகப் பயன்படுத்தப்படும் ஒவ்வொரு வாட்டும், வெப்பநிலையைச் சீராக வைத்திருக்கவே மேலும் அதிக ஆற்றல் பயன்பாட்டிற்கு வழிவகுக்கிறது. (ஐஇஏ, கூகிள் கிளவுட்)

தரவு நகர்வு 🌐

சேமிப்பகம், நினைவகம் மற்றும் வலையமைப்புகள் வழியாகத் தரவை நகர்த்துவதற்கும் ஆற்றல் தேவைப்படுகிறது. செயற்கை நுண்ணறிவு என்பது வெறும் “சிந்தனை” மட்டுமல்ல. அது தகவல்களைத் தொடர்ந்து இடம் மாற்றிக் கொண்டும் இருக்கிறது. (ஐஇஏ)

செயலற்ற கொள்ளளவு 💤

உச்சபட்ச தேவைக்காக உருவாக்கப்பட்ட அமைப்புகள், எப்போதும் அந்த உச்சபட்ச தேவையின்போது இயங்குவதில்லை. செயலற்ற அல்லது முழுமையாகப் பயன்படுத்தப்படாத உள்கட்டமைப்பும் மின்சாரத்தை நுகர்கிறது. (கூகிள் கிளவுட்)

மிகைத்தன்மை மற்றும் நம்பகத்தன்மை 🧱

காப்புப்பிரதிகள், செயலிழப்பு மாற்று அமைப்புகள், நகல் பகுதிகள், பாதுகாப்பு அடுக்குகள் - இவை அனைத்தும் மதிப்புமிக்கவை, மேலும் இவை அனைத்தும் பரந்த ஆற்றல் திட்டத்தின் ஒரு பகுதியாகும். (ஐஇஏ)

சேமிப்பு 📦

பயிற்சித் தரவுகள், உட்பொதிவுகள், பதிவுகள், சரிபார்ப்புப் புள்ளிகள், உருவாக்கப்பட்ட வெளியீடுகள் - இவை அனைத்தும் எங்கோ சேமிக்கப்படுகின்றன. கணக்கீட்டை விட சேமிப்பகம் மலிவானதுதான், ஆனால் ஆற்றல் அடிப்படையில் அது இலவசமானதல்ல. (ஐஇஏ)

இதனால்தான், 'செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?' என்ற கேள்விக்கு, ஒரே ஒரு அளவீட்டு வரைபடத்தை மட்டும் பார்த்துத் தெளிவாகப் பதிலளிக்க முடியாது. முழுமையான கட்டமைப்பு முக்கியமானது. (கூகிள் கிளவுட், IEA)

ஏன் ஒரு AI கட்டளை மிகச் சிறியதாக இருக்க முடியும் - அடுத்தது ஒரு பிரம்மாண்டமாக இருக்க முடியும் 📝➡️🎬

எல்லாக் கோரிக்கைகளும் ஒரே மாதிரியானவை அல்ல. ஒரு வாக்கியத்தை மாற்றி எழுதக் கோரும் ஒரு சிறிய கோரிக்கையை, ஒரு நீண்ட பகுப்பாய்வு, பல-படிநிலைக் குறியீட்டு அமர்வு அல்லது உயர்-தெளிவுத்திறன் கொண்ட பட உருவாக்கம் ஆகியவற்றைக் கோருவதோடு ஒப்பிட முடியாது. (கூகிள் கிளவுட்)

ஒவ்வொரு தொடர்பிற்கும் ஆற்றல் பயன்பாட்டை அதிகரிக்கச் செய்யும் காரணிகள்:

• நீண்ட சூழல் சாளரங்கள்

• நீண்ட பதில்கள்

• கருவி பயன்பாடு மற்றும் மீட்டெடுப்பு படிகள்

• காரணமறிதல் அல்லது சரிபார்ப்பிற்காக பலமுறை கடந்து செல்லுதல்

• படம், ஒலி அல்லது காணொளி உருவாக்கம்

• உயர் ஒருங்கமைவு

• குறைந்த தாமத இலக்குகள் (கூகிள் கிளவுட், அளவுப்படுத்தல், தொகுத்தல் மற்றும் LLM ஆற்றல் பயன்பாட்டில் சேவை உத்திகள்)

ஒரு எளிமையான உரை வடிவப் பதில் ஒப்பீட்டளவில் மலிவானதாக இருக்கலாம். ஒரு பிரம்மாண்டமான, பன்முகப் பணிப்பாய்வு, சொல்லப்போனால், மலிவானதாக இருக்காது. இது காபி ஆர்டர் செய்வதற்கும், ஒரு திருமணத்திற்கு உணவு ஏற்பாடு செய்வதற்கும் உள்ள வித்தியாசத்தைப் போன்றது. தொழில்நுட்ப ரீதியாக, இரண்டுமே "உணவுச் சேவை" என்ற வகையில்தான் அடங்கும். ஒன்று மற்றொன்றைப் போன்றதல்ல ☕🎉

இது குறிப்பாக தயாரிப்புக் குழுக்களுக்கு முக்கியமானது. குறைந்த பயன்பாட்டில் பாதிப்பில்லாததாகத் தோன்றும் ஒரு அம்சம், ஒவ்வொரு பயனர் அமர்வும் நீளமாகவும், செழுமையாகவும், அதிக கணக்கீட்டுத் திறன் கொண்டதாகவும் மாறும்போது, ​​பெரிய அளவில் செலவு மிக்கதாக மாறக்கூடும். (DOE, கூகிள் கிளவுட்)

நுகர்வோர் செயற்கை நுண்ணறிவும் நிறுவன செயற்கை நுண்ணறிவும் ஒன்றல்ல 🏢📱

செயற்கை நுண்ணறிவை சாதாரணமாகப் பயன்படுத்தும் ஒரு சராசரி நபர், அவ்வப்போது வரும் அதன் அறிவுறுத்தல்கள்தான் பெரிய பிரச்சனை என்று கருதக்கூடும். ஆனால், வழக்கமாக, ஆற்றல் தொடர்பான முக்கியப் பிரச்சனை அங்கு இருப்பதில்லை. (கூகிள் கிளவுட்)

பெருநிறுவனப் பயன்பாடு கணக்கீடுகளை மாற்றுகிறது:

• ஆயிரக்கணக்கான ஊழியர்கள்

• எப்போதும் இயங்கும் துணை விமானிகள்

• தானியங்கு ஆவண செயலாக்கம்

• அழைப்பு சுருக்கம்

• பட பகுப்பாய்வு

• குறியீடு மதிப்பாய்வுக் கருவிகள்

• பின்னணி முகவர்கள் தொடர்ந்து இயங்கிக்கொண்டிருக்கிறார்கள்

அங்குதான் ஒட்டுமொத்த ஆற்றல் பயன்பாடு மிகவும் முக்கியத்துவம் பெறத் தொடங்குகிறது. ஒவ்வொரு செயலும் பேரழிவை ஏற்படுத்தும் என்பதால் அல்ல, மாறாக மீண்டும் மீண்டும் நிகழ்தல் ஒரு பெருக்கியாகச் செயல்படுவதால். (DOE, IEA)

எனது சொந்த சோதனைகள் மற்றும் பணிப்பாய்வு மதிப்பாய்வுகளில், இந்த விஷயத்தில்தான் மக்கள் ஆச்சரியப்படுகிறார்கள். அவர்கள் மாடல் பெயரிலோ அல்லது கவர்ச்சியான டெமோவிலோ கவனம் செலுத்தி, விற்பனை அளவைப் புறக்கணிக்கிறார்கள். நீங்கள் வாடிக்கையாளர்களுக்குக் கட்டணம் வசூலிக்கிறீர்களா அல்லது பயன்பாட்டுக் கட்டணத்தைச் செலுத்துகிறீர்களா என்பதைப் பொறுத்து, விற்பனை அளவுதான் பெரும்பாலும் உண்மையான உந்துசக்தியாகவோ அல்லது மீட்பராகவோ இருக்கிறது 😅

நுகர்வோருக்கு, இதன் தாக்கம் ஒரு அருவமான விஷயமாகத் தோன்றலாம். ஆனால், வணிகங்களுக்கு அது மிக விரைவாகவே உறுதியானதாக மாறிவிடுகிறது

• பெரிய உள்கட்டமைப்பு மசோதாக்கள்

• உகந்ததாக்குவதற்கான அதிக அழுத்தம்

• முடிந்தவரை சிறிய மாதிரிகளுக்கான வலுவான தேவை உள்ளது

• உள் நிலைத்தன்மை அறிக்கை

• கேச்சிங் மற்றும் ரூட்டிங்கில் அதிக கவனம் (கூகிள் கிளவுட், கிரீன் ஏஐ)

செயற்கை நுண்ணறிவை கைவிடாமல் அதன் ஆற்றல் பயன்பாட்டைக் குறைப்பது எப்படி 🌱

இந்தப் பகுதி முக்கியமானது, ஏனெனில் "செயற்கை நுண்ணறிவைப் பயன்படுத்துவதை நிறுத்துவது" என்பது இலக்கு அல்ல. பொதுவாக அது நடைமுறைக்குச் சாத்தியமானதல்ல, அவசியமானதும் கூட. சிறந்த முறையில் பயன்படுத்துவதே புத்திசாலித்தனமான வழி.

இதோ மிகப்பெரிய நெம்புகோல்கள்:

1. வேலையைச் செய்து முடிக்கும் மிகச்சிறிய மாடலைப் பயன்படுத்துங்கள்

ஒவ்வொரு பணிக்கும் அதிக திறன் தேவைப்படும் கருவி அவசியமில்லை. வகைப்படுத்துதல் அல்லது சுருக்கப்படுத்துதலுக்கான இலகுவான மாதிரி, வீணாவதை விரைவாகக் குறைக்கும். (பசுமை செயற்கை நுண்ணறிவு, கூகிள் கிளவுட்)

2. தூண்டுதல்களையும் வெளியீடுகளையும் சுருக்கவும்

விரிவாக உள்ளீடு, விரிவாக வெளியீடு. கூடுதல் டோக்கன்கள் கூடுதல் கணக்கீட்டைக் குறிக்கின்றன. சில நேரங்களில், தூண்டலைச் சுருக்குவதே எளிதான வெற்றியாகும். (LLM ஆற்றல் பயன்பாட்டில் அளவாக்கம், தொகுத்தல் மற்றும் வழங்கும் உத்திகள், கூகிள் கிளவுட்)

3. மீண்டும் மீண்டும் வரும் முடிவுகளைச் சேமிக்கவும்

ஒரே வினவல் மீண்டும் மீண்டும் தோன்றினால், ஒவ்வொரு முறையும் அதை மீண்டும் உருவாக்காதீர்கள். இது அப்பட்டமான ஒரு விஷயம், ஆனாலும் கவனிக்கத் தவறப்படுகிறது. (கூகிள் கிளவுட்)

4. முடிந்தவரை பணிகளைத் தொகுப்பாகச் செய்யவும்

பணிகளைத் தொகுப்புகளாகச் செயல்படுத்துவது பயன்பாட்டை மேம்படுத்தி, வீணாவதைக் குறைக்கும். (LLM ஆற்றல் பயன்பாட்டில் அளவிடுதல், தொகுத்தல் மற்றும் சேவை உத்திகள்)

5. பணிகளை புத்திசாலித்தனமாக வழிநடத்துங்கள்

நம்பிக்கை குறையும்போதோ அல்லது பணியின் சிக்கல்தன்மை அதிகரிக்கும்போதோ மட்டுமே பெரிய மாதிரிகளைப் பயன்படுத்தவும். (பசுமை செயற்கை நுண்ணறிவு, கூகிள் கிளவுட்)

6. உள்கட்டமைப்பை மேம்படுத்துதல்

மேம்பட்ட திட்டமிடல், சிறந்த வன்பொருள், மேம்பட்ட குளிரூட்டும் உத்தி - சாதாரணமான விஷயங்கள், ஆனால் மிகப்பெரிய பலன். (கூகிள் கிளவுட், DOE)

7. அனுமானிப்பதற்கு முன் அளவிடுங்கள்

பல குழுக்கள் மின்சாரம் எங்கே செல்கிறது என்று தங்களுக்குத் தெரியும் என நினைக்கின்றன. பிறகு அவர்கள் அளவிடுகிறார்கள், அப்போதுதான் தெரிகிறது - அதிக செலவாகும் பகுதி வேறு எங்கோ இருக்கிறது. (கூகிள் கிளவுட்)

செயல்திறன் மேம்பாட்டுப் பணி கவர்ச்சிகரமானதல்ல. அதற்கு அரிதாகவே பாராட்டு கிடைக்கும். ஆனால், பெரிய அளவில் செயற்கை நுண்ணறிவை மேலும் மலிவானதாகவும், பாதுகாப்பானதாகவும் மாற்றுவதற்கான சிறந்த வழிகளில் இதுவும் ஒன்றாகும் 👍

செயற்கை நுண்ணறிவு மின்சாரப் பயன்பாடு குறித்த பொதுவான கட்டுக்கதைகள் 🚫

சில கட்டுக்கதைகளைத் தெளிவுபடுத்துவோம், ஏனெனில் இந்தத் தலைப்பு விரைவில் சிக்கலாகிவிடும்.

கட்டுக்கதை 1 - ஒவ்வொரு AI வினவலும் பெருமளவில் வீணானது

அப்படியிருக்க வேண்டிய அவசியமில்லை. சில மிதமானவை. அளவும் பணி வகையும் மிகவும் முக்கியம். (கூகிள் கிளவுட்)

கட்டுக்கதை 2 - பயிற்சி மட்டுமே முக்கியமானது

இல்லை. பயன்பாடு அதிகமாக இருக்கும்போது, ​​காலப்போக்கில் அனுமானம் மேலோங்கக்கூடும். (கூகிள் ஆராய்ச்சி, எரிசக்தித் துறை)

கட்டுக்கதை 3 - பெரிய மாடல் எப்போதும் சிறந்த விளைவைத் தரும்

சில நேரங்களில் ஆம், சில நேரங்களில் நிச்சயமாக இல்லை. ஏராளமான பணிகள் சிறிய அமைப்புகளிலேயே சிறப்பாகச் செயல்படுகின்றன. (பசுமை செயற்கை நுண்ணறிவு)

கட்டுக்கதை 4 - ஆற்றல் பயன்பாடு தானாகவே கார்பன் தாக்கத்திற்குச் சமம்

முற்றிலும் இல்லை. கார்பன் ஆற்றல் மூலத்தையும் சார்ந்துள்ளது. (ஐஇஏ, ஸ்ட்ரூபெல் மற்றும் பலர்.)

கட்டுக்கதை 5 - செயற்கை நுண்ணறிவு ஆற்றல் பயன்பாட்டிற்கு ஒரே உலகளாவிய எண்ணைப் பெற முடியும்

உங்களால் முடியாது, குறைந்தபட்சம் அர்த்தமுள்ளதாக நிலைத்திருக்கும் ஒரு வடிவத்தில் முடியாது. அல்லது உங்களால் முடியும், ஆனால் அது மிகவும் சராசரியானதாகி, அதன் மதிப்பை இழந்துவிடும். (ஐஇஏ)

இதனால்தான், 'செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?' என்று புத்திசாலித்தனமானது - ஆனால், ஒரு முழக்கத்திற்குப் பதிலாக, பல அடுக்குகள் கொண்ட பதிலுக்கு நீங்கள் தயாராக இருந்தால் மட்டுமே.

அப்படியென்றால்... செயற்கை நுண்ணறிவு உண்மையில் எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது? 🤔

இதோ உறுதியான முடிவு.

செயற்கை நுண்ணறிவின் பயன்கள்:

• சிறிதளவு, சில எளிய பணிகளுக்கு

• அதிக அளவிலான பன்முறை உற்பத்திக்கு இன்னும் அதிகம்.

• பெரிய அளவிலான மாதிரிப் பயிற்சிக்கு மிக அதிக அளவு

• காலப்போக்கில் மில்லியன் கணக்கான கோரிக்கைகள் குவியும்போது, ​​மொத்தத்தில் இது ஒரு மிகப்பெரிய தொகையாகும் ( கூகிள் கிளவுட் , DOE ).

அதன் வடிவம் இதுதான்.

முக்கியமான விஷயம் என்னவென்றால், இந்த முழுப் பிரச்சினையையும் ஒரே ஒரு பயமுறுத்தும் எண்ணாகவோ அல்லது அலட்சியப்படுத்தும் ஒரு தோள் குலுக்கலாகவோ சுருக்கிவிடக் கூடாது. செயற்கை நுண்ணறிவின் ஆற்றல் பயன்பாடு உண்மையானது. அது முக்கியமானது. அதை மேம்படுத்த முடியும். மேலும், அதைப் பற்றிப் பேசுவதற்கான சிறந்த வழி, நாடகத்தன்மையுடன் அல்லாமல், சூழலுடன் பேசுவதே ஆகும். (ஐஇஏ, பசுமை செயற்கை நுண்ணறிவு)

பொது உரையாடல்களில் பெரும்பாலானவை இரண்டு தீவிர நிலைப்பாடுகளுக்கு இடையே ஊசலாடுகின்றன - ஒருபுறம், “செயற்கை நுண்ணறிவு அடிப்படையில் இலவசமானது”, மறுபுறம், “செயற்கை நுண்ணறிவு ஒரு மின்சாரப் பேரழிவு”. யதார்த்தம் மிகவும் சாதாரணமானது, அதுவே அதை அதிகத் தகவல் நிறைந்ததாக ஆக்குகிறது. இது ஒரு அமைப்பு சார்ந்த பிரச்சனை. வன்பொருள், மென்பொருள், பயன்பாடு, அளவு, குளிர்வித்தல், வடிவமைப்புத் தேர்வுகள். சாதாரணமாகத் தோன்றுகிறதா? ஓரளவிற்கு. முக்கியமானதா? மிகவும். (ஐஇஏ, கூகிள் கிளவுட்)

முக்கியக் குறிப்புகள் ⚡🧾

'செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?' என்று தெரிந்துகொள்ள நீங்கள் இங்கு வந்திருந்தால், இதோ அதற்கான சுருக்கம்:

• அனைவருக்கும் பொருந்தக்கூடிய ஒரே எண் என்று எதுவும் இல்லை

• பயிற்சி பொதுவாக ஆரம்பத்தில் அதிக ஆற்றலை எடுத்துக்கொள்கிறது

• பெரிய அளவில் செயல்படும்போது அனுமானம் ஒரு முக்கிய காரணியாகிறது

• மாடல் அளவு, வன்பொருள், பணிச்சுமை மற்றும் குளிரூட்டல் ஆகிய அனைத்தும் முக்கியமானவை

• சிறிய மேம்பாடுகள் வியக்கத்தக்க வகையில் பெரிய வித்தியாசத்தை ஏற்படுத்தக்கூடும்

• மிகச் சிறந்த கேள்வி என்பது “எவ்வளவு” என்பது மட்டுமல்ல, “எந்தப் பணிக்கு, எந்த அமைப்பில், எந்த அளவில்?” என்பதும் ஆகும். (ஐஇஏ, கூகிள் கிளவுட்)

ஆம், செயற்கை நுண்ணறிவு உண்மையான ஆற்றலைப் பயன்படுத்துகிறது. கவனம் செலுத்தப்பட வேண்டிய அளவுக்கு. மேம்பட்ட பொறியியலை நியாயப்படுத்தப் போதுமான அளவுக்கு. ஆனால், அது ஒரு கேலிச்சித்திரத்தைப் போன்ற, ஒற்றை எண் வழியில் அல்ல.

நிஜ உலக உதாரணம்: ஒரு AI ஆதரவு உதவியாளரின் ஆற்றல் செலவை அளவிடுதல்

சூழ்நிலை

ஒரு சிறிய SaaS நிறுவனம், வாடிக்கையாளர் சேவை கோரிக்கைகளுக்குப் பதில்களை வரைவு செய்ய ஒரு செயற்கை நுண்ணறிவு உதவியாளரைப் பயன்படுத்துவதைக் கற்பனை செய்து பாருங்கள். இது ஒரு கற்பனையான ஆனால் யதார்த்தமான உதாரணம், ஒரு நிறுவனத்தின் செயல்முறை ஆய்வு அல்ல.

இந்தக் குழு ஒவ்வொரு வாரமும் சுமார் 500 ஆதரவுக் கோரிக்கைகளைக் கையாளுகிறது. அவற்றில் பெரும்பாலானவை நேரடியானவை: கடவுச்சொல் மீட்டமைப்புகள், கட்டணக் கேள்விகள், அம்ச விளக்கங்கள் மற்றும் அடிப்படைப் பழுதுநீக்கம் போன்றவை. உதவியாளர் தானாகவே பதில்களை அனுப்புவதை நிறுவனம் விரும்புவதில்லை. ஒரு மனித ஆதரவு முகவர் மதிப்பாய்வு செய்வதற்காக, அது பதில்களை வரைவு செய்கிறது.

ஆற்றல் குறித்த கேள்வி, “பொதுவாக செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?” என்பதல்ல. அது மிகவும் நடைமுறை சார்ந்தது:

இந்த பணிப்பாய்வில் செயற்கை நுண்ணறிவைச் சேர்ப்பதன் மூலம் நாம் எவ்வளவு கூடுதல் கணக்கீட்டை உருவாக்குகிறோம், மேலும் தரத்தைப் பாதிக்காமல் அதை நம்மால் குறைக்க முடியுமா?

உதவியாளருக்கு என்ன தேவை

அணி பின்வருவனவற்றுடன் தொடங்கும்:

ஒரு சுத்தமான உதவி மைய அறிவுத் தளம்

அங்கீகரிக்கப்பட்ட பணத்தைத் திரும்பப் பெறுதல், தனியுரிமை மற்றும் மேல் நடவடிக்கை விதிகள் அடங்கிய பட்டியல்

வலுவான கடந்தகால ஆதரவு பதில்களின் 20-30 எடுத்துக்காட்டுகள்

உதவியாளர் வரைவு மட்டுமே செய்ய வேண்டுமே தவிர, அனுப்பக் கூடாது என்ற தெளிவான அறிவுறுத்தல்

கிளவுட் பயன்பாட்டுப் பதிவுகள் அல்லது மாடல் ஏபிஐ பயன்பாட்டுப் பதிவுகள்

டிக்கெட் வகை, கேள்வியின் நீளம், வெளியீட்டின் நீளம், மதிப்பாய்வு நேரம் மற்றும் பதில் ஏற்றுக்கொள்ளப்பட்டதா இல்லையா என்பதைக் கண்காணிக்க உதவும் ஒரு எளிய விரிதாள்

அளவீடுதான் இதில் முக்கியமான அம்சம். பதிவேடுகள் இல்லாமல், குழுவினர் வெறும் யூகம்தான் செய்கிறார்கள்.

எடுத்துக்காட்டு அறிவுறுத்தல்

நீங்கள் ஒரு SaaS தயாரிப்புக்கான ஆதரவு வரைவு உதவியாளர். வழங்கப்பட்ட, அங்கீகரிக்கப்பட்ட உதவி மைய உள்ளடக்கம் மற்றும் கொள்கைக் குறிப்புகளை மட்டுமே பயன்படுத்தவும். 180 வார்த்தைகளுக்குள் தெளிவான, கண்ணியமான பதிலை வரைவு செய்யவும். வாடிக்கையாளர் பணத்தைத் திரும்பக் கோருதல், கணக்கை நீக்குதல், சட்ட ஆலோசனை, பாதுகாப்பு விவரங்கள் அல்லது ஆவணங்களில் குறிப்பிடப்படாத வேறு எதையும் கேட்டால், நேரடியாகப் பதிலளிக்க வேண்டாம். அதை மனித மதிப்பாய்வுக்காகக் குறியிட்டு, எந்தத் தகவல் விடுபட்டுள்ளது என்பதை விளக்கவும்.

பதில் எழுதுவதற்கு முன், அந்தப் புகாரை எளிமையானது, கொள்கை சார்ந்தது, தொழில்நுட்பம் சார்ந்தது, அல்லது மேல் நடவடிக்கை தேவைப்படுவது என வகைப்படுத்தவும்.

அதை எப்படி சோதிப்பது

நேரலையில் பயன்படுத்துவதற்கு முன்பு, குழுவினர் அந்த உதவியாளரை 50 கடந்தகால டிக்கெட்டுகளில் சோதித்துப் பார்க்கலாம்.

ஒரு எளிய சோதனைத் தொகுப்பில் பின்வருவன அடங்கியிருக்கலாம்:

10 கடவுச்சொல் அல்லது உள்நுழைவு டிக்கெட்டுகள்

10 பில்லிங் டிக்கெட்டுகள்

10 தொழில்நுட்ப சரிசெய்தல் டிக்கெட்டுகள்

10 தெளிவற்ற அல்லது முழுமையற்ற வாடிக்கையாளர் செய்திகள்

பணம் திரும்பப் பெறுதல், தனியுரிமை அல்லது கணக்கு மூடல் தொடர்பான 10 கொள்கை சார்ந்த புகார்கள்

ஒவ்வொரு டிக்கெட்டிற்கும், குழு பின்வருவனவற்றைப் பதிவு செய்ய வேண்டும்:

அந்த வரைவு உண்மையில் சரியானதா?

அது அங்கீகரிக்கப்பட்ட தகவல்களை மட்டுமே பயன்படுத்தியதா?

அது வார்த்தை வரம்புக்குள் இருந்ததா?

அது உணர்திறன் மிக்க வழக்குகளைச் சரியாகக் கொடியிட்டதா?

மனித முகவர் அதைத் திருத்துவதற்கு எவ்வளவு நேரம் செலவிட்டார்?

பணிப்பாய்வு எத்தனை டோக்கன்கள் அல்லது கோரிக்கைகளைப் பயன்படுத்தியது?

ஊகங்களை நம்பியிருப்பதை விடுத்து, இது அணிக்கு ஒப்பிட்டுப் பார்க்க ஒரு உறுதியான ஆதாரத்தை அளிக்கிறது.

முடிவு

விளக்கமான முடிவு: பணிப்பாய்வைப் பயன்படுத்துவதற்கு முன்பும் பின்பும் 50 மாதிரி டிக்கெட்டுகளின் நேரத்தைக் கணக்கிட்டதன் அடிப்படையில், ஒரு டிக்கெட்டுக்கான சராசரி முதல் வரைவு நேரம் 6 நிமிடங்களிலிருந்து 2 நிமிடங்களாகக் குறைகிறது என்று குழு மதிப்பிடுகிறது.

வாரத்திற்கு 500 டிக்கெட்டுகள் என்பதால், வரைவுப் பணியில் சுமார் 2,000 நிமிடங்கள், அதாவது ஏறத்தாழ 33 மணிநேரங்கள் மிச்சமாகின்றன.

ஆனால், அந்தப் பதிவுகள் ஒரு மதிப்புமிக்க விஷயத்தையும் காட்டுகின்றன: 38% டிக்கெட்டுகள் மீண்டும் மீண்டும் கேட்கப்பட்டவை. ஒவ்வொரு வரைவையும் புதிதாக உருவாக்குவதற்குப் பதிலாக, மீண்டும் மீண்டும் கேட்கப்படும் இந்தக் கேள்விகளுக்கான அங்கீகரிக்கப்பட்ட பதில்களைத் தற்காலிக நினைவகத்தில் சேமிப்பதன் மூலம், அந்தக் குழு வாரத்திற்கு 500 ஆக இருந்த செயற்கை நுண்ணறிவு கோரிக்கைகளை 310 ஆகக் குறைக்கிறது.

AI அம்சத்தை நீக்காமலேயே, இந்த பணிப்பாய்வுக்கான வாராந்திர அனுமான அழைப்புகளில் 38% குறைவு ஏற்பட்டுள்ளது.

ஒப்பிடுவதன் மூலம் குழு இதைச் சரிபார்க்க முடியும்:

கேச்சிங்கிற்கு முன்னும் பின்னும் மொத்த வாராந்திர AI கோரிக்கைகள்

சராசரி தூண்டுதல் மற்றும் வெளியீட்டு நீளம்

மனித ஏற்பு விகிதம்

சரியாகக் கண்டறியப்பட்ட மேல்நிலைப்படுத்தல்களின் எண்ணிக்கை

ஆதரவு தர மதிப்பெண்கள் அல்லது திருத்த எண்ணிக்கைகள்

துல்லியமான மின்சாரச் சேமிப்பு என்பது மாடல், வன்பொருள், வழங்குநர் மற்றும் உள்கட்டமைப்பைப் பொறுத்து அமையும். ஆனால், பணிச்சுமைக் குறைப்பை அளவிட முடியும்.

என்ன தவறு நடக்கக்கூடும்?

சிக்கலை மேல்நிலைக்குக் கொண்டு செல்லும் விதிகள் தெளிவற்றதாக இருந்தால், உதவியாளர் கொள்கை சார்ந்த கேள்விகளுக்கு அளவுக்கு அதிகமாகப் பதிலளிக்கக்கூடும்.

மீட்பு அமைப்பு மோசமாக கட்டமைக்கப்பட்டிருந்தால், நீண்ட உதவி மைய ஆவணங்கள் அறிவுறுத்தலின் கால அளவை அதிகரிக்கக்கூடும்.

முகவர்கள் சரளமாக எழுதப்பட்ட வரைவுகளை மிக விரைவாக நம்பி, நுட்பமான பிழைகளைக் கவனிக்கத் தவறிவிடக்கூடும்.

பழைய பணத்தைத் திரும்பப் பெறுதல், விலை நிர்ணயம் அல்லது தனியுரிமைக் கொள்கைகள் புழக்கத்தில் இருந்தால், கேச்சிங் ஆபத்தானதாக மாறக்கூடும்.

குழு குறைவான டோக்கன்களைப் பயன்படுத்த உகந்ததாக்கும்போது, ​​தற்செயலாகக் குறைந்த பயனுள்ள பதில்களையும் உருவாக்கக்கூடும்.

மிகவும் பாதுகாப்பான பதிப்பானது, மனிதர்களைத் தகவல்களுடன் இணைத்து வைத்திருக்கிறது, ஏற்றுக்கொள்ளப்பட்ட பதில்களை அளவிடுகிறது, மேலும் கொள்கைகள் மாறும்போதெல்லாம் சேமிக்கப்பட்ட பதில்களை மதிப்பாய்வு செய்கிறது.

நடைமுறைப் பாடம்

ஒரு சிறந்த செயற்கை நுண்ணறிவு ஆற்றல் மதிப்பீடு, ஒரு உறுதியான பணிப்பாய்வுடன் தொடங்குகிறது. கோரிக்கைகளைக் கணக்கிடுங்கள், கேட்கும் அறிவுறுத்தல்களைச் சுருக்குங்கள், மீண்டும் மீண்டும் வரும் பதில்களைத் தற்காலிக நினைவகத்தில் சேமித்து வையுங்கள், மற்றும் மதிப்பாய்வின் தரத்தை அளவிடுங்கள். இது, “செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?” என்ற தெளிவற்ற விவாதத்தை, ஒரு குழு நடைமுறையில் மேம்படுத்தக்கூடிய எண்களைக் கொண்ட ஒரு நடைமுறைப் பொறியியல் கேள்வியாக மாற்றுகிறது.

அடிக்கடி கேட்கப்படும் கேள்விகள்

ஒரு கட்டளைக்கு செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?

ஒரு தனிப்பட்ட கட்டளைக்கு என ஒரு பொதுவான எண் இல்லை, ஏனெனில் ஆற்றல் பயன்பாடு மாதிரி, வன்பொருள், கட்டளையின் நீளம், வெளியீட்டின் நீளம் மற்றும் சம்பந்தப்பட்ட கூடுதல் கருவிப் பயன்பாடு ஆகியவற்றைப் பொறுத்தது. ஒரு குறுகிய உரைப் பதில் ஒப்பீட்டளவில் குறைவாக இருக்கலாம், அதேசமயம் ஒரு நீண்ட பன்முகப் பணி குறிப்பிடத்தக்க அளவு அதிக ஆற்றலை நுகரக்கூடும். மிகவும் அர்த்தமுள்ள பதில் என்பது ஒரு தனிப்பட்ட தலைப்பு எண் அல்ல, மாறாக அந்தப் பணியைச் சுற்றியுள்ள சூழலே ஆகும்.

செயற்கை நுண்ணறிவின் ஆற்றல் பயன்பாடு குறித்த மதிப்பீடுகள் ஏன் இவ்வளவு வேறுபடுகின்றன?

மக்கள் பெரும்பாலும் செயற்கை நுண்ணறிவு (AI) என்ற ஒரே பெயரில் மிகவும் மாறுபட்ட விஷயங்களை ஒப்பிடுவதால், மதிப்பீடுகள் வேறுபடுகின்றன. ஒரு மதிப்பீடு ஒரு சாதாரண சாட்பாட் பதிலைப் பற்றி விவரிக்கலாம், அதேசமயம் மற்றொன்று பட உருவாக்கம், காணொளி அல்லது பெரிய அளவிலான மாதிரிப் பயிற்சி போன்றவற்றை உள்ளடக்கியிருக்கலாம். ஒரு மதிப்பீடு அர்த்தமுள்ளதாக இருக்க, அதற்குப் பணி வகை, மாதிரியின் அளவு, வன்பொருள், பயன்பாடு, குளிரூட்டல் மற்றும் இருப்பிடம் போன்ற சூழல் தகவல்கள் தேவைப்படுகின்றன.

செயற்கை நுண்ணறிவுக்குப் பயிற்சி அளிப்பதா அல்லது அதனை அன்றாடம் இயக்குவதா, இதில் எது அதிக ஆற்றல் செலவை ஏற்படுத்துகிறது?

பயிற்சி என்பது பொதுவாக ஆரம்பத்தில் அதிக ஆற்றலைச் செலவழிக்கும் ஒரு நிகழ்வாகும், ஏனெனில் அதில் மிகப்பெரிய தரவுத்தொகுப்புகளில் நீண்ட காலத்திற்கு பல சிப்கள் இயங்கக்கூடும். அனுமானம் என்பது பயனர்கள் கோரிக்கைகளை அனுப்பும் ஒவ்வொரு முறையும் ஏற்படும் தொடர்ச்சியான செலவாகும், மேலும் பெரிய அளவில் இதுவும் மிகப் பெரியதாக ஆகக்கூடும். நடைமுறையில், இரண்டுமே முக்கியமானவை, இருப்பினும் அவை வெவ்வேறு வழிகளில் முக்கியத்துவம் பெறுகின்றன.

ஒரு AI கோரிக்கையை மற்றொன்றை விட அதிக ஆற்றல் தேவைப்படும் ஒன்றாக மாற்றுவது எது?

நீண்ட சூழல் சாளரங்கள், நீண்ட வெளியீடுகள், மீண்டும் மீண்டும் நிகழும் பகுத்தறிவுச் சுற்றுகள், கருவி அழைப்புகள், மீட்டெடுப்புப் படிகள் மற்றும் பன்முறை உருவாக்கம் ஆகிய அனைத்தும் ஒவ்வொரு ஊடாட்டத்திற்கும் ஆற்றல் பயன்பாட்டை அதிகரிக்க முனைகின்றன. தாமத இலக்குகளும் முக்கியமானவை, ஏனெனில் வேகமான பதிலளிப்புத் தேவைகள் செயல்திறனைக் குறைக்கக்கூடும். ஒரு சிறிய திருத்திக் கோரிக்கையும் ஒரு நீண்ட குறியீட்டு அல்லது படப் பணிப்பாய்வும் ஒப்பிடத்தக்கவை அல்ல.

செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது என்று கேட்கும்போது, ​​மக்கள் கவனிக்கத் தவறும் மறைமுகமான ஆற்றல் செலவுகள் யாவை?

பலர் சிப்பில் மட்டுமே கவனம் செலுத்துகிறார்கள், ஆனால் அது குளிரூட்டல், தரவுப் பரிமாற்றம், சேமிப்பகம், செயலற்ற திறன் மற்றும் காப்புப் பிரதிகள் அல்லது செயலிழப்பு மாற்றுப் பகுதிகள் போன்ற நம்பகத்தன்மை அமைப்புகளைப் புறக்கணிக்கிறது. இந்தத் துணை அடுக்குகள் மொத்தப் பயன்பாட்டு அளவை கணிசமாக மாற்றக்கூடும். அதனால்தான் ஒரு செயல்திறன் அளவீடு மட்டும் முழுமையான ஆற்றல் நிலவரத்தை அரிதாகவே வெளிப்படுத்துகிறது.

பெரிய AI மாடல் எப்போதும் அதிக ஆற்றலைப் பயன்படுத்துமா?

பெரிய மாடல்களுக்கு, குறிப்பாக நீண்ட அல்லது சிக்கலான வெளியீடுகளுக்கு, பொதுவாக அதிக கணக்கீட்டுத் திறனும் நினைவகமும் தேவைப்படுகின்றன, எனவே அவை பெரும்பாலும் அதிக ஆற்றலைச் செலவிடுகின்றன. ஆனால், ஒவ்வொரு பணிக்கும் பெரியது என்பதே தானாகவே சிறந்தது என்று அர்த்தமல்ல, மேலும் உகப்பாக்கம் இந்த நிலையை கணிசமாக மாற்றும். சிறிய சிறப்பு மாடல்கள், அளவாக்கம், தொகுத்தல், தற்காலிகச் சேமிப்பு மற்றும் மேம்பட்ட வழித்தடம் ஆகிய அனைத்தும் செயல்திறனை மேம்படுத்தும்.

நுகர்வோர் செயற்கை நுண்ணறிவுப் பயன்பாடுதான் பிரதான ஆற்றல் பிரச்சனையா, அல்லது நிறுவன செயற்கை நுண்ணறிவுதான் மிகப்பெரிய பிரச்சனையா?

சாதாரண நுகர்வோர் பயன்பாடு கூடினாலும், ஆற்றல் தொடர்பான மிகப்பெரிய சிக்கல் பெரும்பாலும் பெருநிறுவனப் பயன்பாடுகளில்தான் வெளிப்படுகிறது. எப்போதும் இயங்கும் கோபைலட்கள், ஆவணச் செயலாக்கம், அழைப்புச் சுருக்கம், குறியீட்டு ஆய்வு மற்றும் பின்னணி ஏஜென்ட்கள் போன்றவை பெரிய பயனர் தளங்களில் தொடர்ச்சியான தேவையை உருவாக்குகின்றன. இந்தப் பிரச்சினை பொதுவாக ஒரு பெரிய அதிரடி நடவடிக்கையைப் பற்றியதல்ல, மாறாகக் காலப்போக்கில் நீடிக்கும் பயன்பாட்டு அளவைப் பற்றியதே ஆகும்.

தரவு மையங்கள் மற்றும் குளிரூட்டலையும் சேர்த்துக் கொள்ளும்போது, ​​செயற்கை நுண்ணறிவு எவ்வளவு ஆற்றலைப் பயன்படுத்துகிறது?

விரிவான அமைப்பும் உள்ளடக்கப்படும்போது, ​​விடை மிகவும் யதார்த்தமானதாகிறது, மேலும் அது பொதுவாக சிப்-மட்டும் மதிப்பீடுகள் குறிப்பிடுவதை விடப் பெரியதாக இருக்கும். தரவு மையங்களுக்குக் கணக்கீட்டிற்கு மட்டுமல்லாமல், குளிரூட்டல், வலையமைப்பு, சேமிப்பு மற்றும் உபரித் திறனைப் பராமரிப்பதற்கும் மின்சாரம் தேவைப்படுகிறது. அதனால்தான், மாதிரி வடிவமைப்பைப் போலவே உள்கட்டமைப்பு வடிவமைப்பும் வசதித் திறனும் கிட்டத்தட்ட முக்கியத்துவம் பெறுகின்றன.

ஒரு உண்மையான பணிப்பாய்வில் செயற்கை நுண்ணறிவின் ஆற்றல் பயன்பாட்டை அளவிடுவதற்கான மிகவும் நடைமுறைக்கு உகந்த வழி என்ன?

சிறந்த முறையானது, யார் அளவிடுகிறார்கள் மற்றும் என்ன நோக்கத்திற்காக அளவிடுகிறார்கள் என்பதைப் பொறுத்தது. விரைவான ஒப்பீடுகளுக்கு ஒரு தோராயமான பொது விதி உதவக்கூடும், அதே சமயம் வாட் மீட்டர்கள், GPU டெலிமெட்ரி, கிளவுட் பில்லிங் பதிவுகள் மற்றும் தரவு மைய அறிக்கையிடல் ஆகியவை படிப்படியாக வலுவான செயல்பாட்டுப் பார்வையை வழங்குகின்றன. தீவிரமான நிலைத்தன்மைப் பணிகளுக்கு, ஒரு முழுமையான வாழ்க்கைச் சுழற்சிப் பார்வை இன்னும் வலிமையானது, இருப்பினும் அது மெதுவானதும் அதிக உழைப்பு தேவைப்படக்கூடியதும் ஆகும்.

பயனுள்ள செயற்கை நுண்ணறிவு அம்சங்களைக் கைவிடாமல், குழுக்கள் அதன் ஆற்றல் பயன்பாட்டை எவ்வாறு குறைக்க முடியும்?

வேலையைச் சிறப்பாகச் செய்யும் மிகச்சிறிய மாடலைப் பயன்படுத்துதல், அறிவுறுத்தல்களையும் வெளியீடுகளையும் சுருக்குதல், மீண்டும் மீண்டும் வரும் முடிவுகளைத் தற்காலிகமாகச் சேமித்தல், பணிகளைத் தொகுத்தல், மற்றும் கடினமான பணிகளை மட்டும் பெரிய மாடல்களுக்கு அனுப்புதல் ஆகியவற்றின் மூலமே பொதுவாக மிகப்பெரிய ஆதாயங்கள் கிடைக்கின்றன. உள்கட்டமைப்பு மேம்படுத்தலும் முக்கியமானது, குறிப்பாக திட்டமிடல் மற்றும் வன்பொருள் செயல்திறன். பல செயல்முறைகளில், முதலில் அளவிடுவது, குழுக்கள் தவறான விஷயத்தை மேம்படுத்துவதைத் தடுக்க உதவுகிறது.

குறிப்புகள்

1. சர்வதேச எரிசக்தி முகமை (IEA) - செயற்கை நுண்ணறிவினால் ஏற்படும் எரிசக்தி தேவை - iea.org

2. அமெரிக்க எரிசக்தித் துறை (DOE) - அதிகரித்த மின்சாரத் தேவை தரவு மையங்களை மதிப்பிடும் புதிய அறிக்கையை DOE வெளியிட்டது - energy.gov

3. கூகிள் கிளவுட் - செயற்கை நுண்ணறிவு அனுமானத்தின் சுற்றுச்சூழல் தாக்கத்தை அளவிடுதல் - cloud.google.com

4. கூகுள் ஆராய்ச்சி - இயந்திர கற்றல் பயிற்சியின் கார்பன் தடம் குறித்த நற்செய்தி - research.google

5. கூகுள் ஆராய்ச்சி - இயந்திர கற்றல் பயிற்சியின் கார்பன் தடம் நிலைபெற்று பின்னர் குறையும் - research.google

6. arXiv - பசுமை செயற்கை நுண்ணறிவு - arxiv.org

7. arXiv - ஸ்ட்ரூபெல் மற்றும் பலர். - arxiv.org

8. arXiv - LLM ஆற்றல் பயன்பாட்டில் அளவாக்கம், தொகுத்தல் மற்றும் வழங்கும் உத்திகள் - arxiv.org

அதிகாரப்பூர்வ AI உதவியாளர் கடையில் சமீபத்திய AI ஐக் கண்டறியவும்

எங்களை பற்றி