செயற்கை நுண்ணறிவு தரவு மையம் என்றால் என்ன? [காணொளி மற்றும் வினாவிடை]

சுருக்கமான பதில்: ஒரு AI தரவு மையம் என்பது , கூடுதல் GPU-க்கள் கொண்ட ஒரு சர்வர் அறை அல்ல; அது, மாடல்களுக்குப் பயிற்சி அளிப்பதையும் சேவை செய்வதையும் மையமாகக் கொண்டு மின்சாரம், குளிரூட்டல், கட்டமைப்பு மற்றும் சேமிப்பகம் ஆகியவை வடிவமைக்கப்பட்ட ஒரு உயர் அடர்த்தி கொண்ட இடமாகும். சிப்புகள் புகழைப் பெறுகின்றன; அவை செயல்படுமா என்பதை அந்தக் கட்டிடமே தீர்மானிக்கிறது. படங்களை வெளியே கொண்டு செல்ல முடியாவிட்டால், ஒரு சிறிய அறையை மாற்றியமைத்துக் கொள்ளுங்கள்; பெரும்பாலான குழுக்கள் அதை வாடகைக்கு எடுக்க வேண்டும்.

முக்கிய குறிப்புகள்:

சில்லுகள் vs கட்டுமானம்: ஆற்றல், குளிரூட்டல், கட்டமைப்பு மற்றும் சேமிப்பு ஆகியவை முடுக்கிச் சாதனங்கள் செயல்படுமா என்பதைத் தீர்மானிக்கின்றன.

இடங்கள், அரண்மனைகள் அல்ல: தரவுகளை வெளியேற்ற முடியாதபோது இரண்டு ரேக்குகளைப் பொருத்துங்கள்; ஒரு வளாகத்தை வாங்காதீர்கள்.

சராசரி மற்றும் இடைநிலை ஒப்பீடு: எட்டு ஓட்டங்களில், இடைநிலையானது மறுதொடக்கங்களை மறைத்தது; 18 மணி நேர சராசரியைப் பயன்படுத்தவும்.

தவறான பயன்பாட்டு எதிர்ப்பு: கலப்பு அரங்கில் உள்ள இரண்டு ரேக்குகளுக்கு PUE-ஐக் குறிப்பிட வேண்டாம்.

விளக்க முடிவுகள்: எட்டு முறை இயக்குவது ஒரு சிறிய வரைபடமே தவிர, 50% உற்பத்தி சேமிப்பு அல்ல.

இதற்குப் பிறகு நீங்கள் படிக்க விரும்பக்கூடிய கட்டுரைகள்:

🔗 செயற்கை நுண்ணறிவு நம்பகமானதா? காணொளி மற்றும் வினாவிடை.
ஒரு சுவாரஸ்யமான காணொளி மற்றும் ஊடாடும் வினாவிடை மூலம் செயற்கை நுண்ணறிவின் நம்பகத்தன்மையை ஆராயுங்கள்.

🔗 அன்றாட வாழ்வில் செயற்கை நுண்ணறிவைப் பயன்படுத்துவது எப்படி?
அன்றாடப் பணிகளையும் வழக்கங்களையும் செயற்கை நுண்ணறிவு எவ்வாறு நடைமுறை வழிகளில் எளிதாக்கும் என்பதைக் கண்டறியுங்கள்.

🔗 பணியிடத்தில் செயற்கை நுண்ணறிவைப் பயன்படுத்துவது எப்படி?
சிறந்த பணியிட உற்பத்தித்திறனுக்காக செயற்கை நுண்ணறிவைப் பயன்படுத்துவதற்கான நடைமுறை வழிகளைக் கற்றுக்கொள்ளுங்கள்.

🔗 செயற்கை நுண்ணறிவால் சுயமாக சிந்திக்க முடியுமா?
செயற்கை நுண்ணறிவால் உண்மையாகவே சுதந்திரமாக சிந்திக்கவோ அல்லது பகுத்தறியவோ முடியுமா என்பதைப் புரிந்து கொள்ளுங்கள்.

இது ஒரு "சாதாரண" தரவு மையத்திலிருந்து எவ்வாறு வேறுபடுகிறது

பாரம்பரிய அரங்குகள், கலவையான பணிச்சுமைகளையும், பல சிறிய சேவைகளின் தடையற்ற இயக்க நேரத்தையும் உகந்ததாக்குகின்றன. நீங்கள் உபரி அமைப்பு குறித்தும், ஒரு வாட் கணக்கீட்டை வழங்குவதற்காகக் கட்டிடம் எரிக்கும் கூடுதல் ஆற்றலான. ஆனால், பொதுவாக, ஒரு கையடக்க வெப்பமூட்டிப் பண்ணை போலச் செயல்படும் ஒரு ரேக்கை மையமாக வைத்து ஒவ்வொரு நடைபாதையையும் நீங்கள் வடிவமைப்பதில்லை.

செயற்கை நுண்ணறிவுத் தளங்கள் விகிதங்களைத் தலைகீழாக மாற்றுகின்றன. அடர்த்தி அதிகரிக்கிறது. பயிற்சிப் பணி தடையின்றி இயங்குவதற்கு, அந்த வலையமைப்பு ஒரு கட்டமைப்பாக மாறுகிறது. சேமிப்பகம் சோதனைச் சாவடிகளைத் தொடர்ந்து இயங்க வைக்க வேண்டும், இல்லையெனில், போக்குவரத்து நெரிசலில் சிக்கிய பந்தயக் குதிரைகளைப் போல முடுக்கிச் சாதனங்கள் செயலற்று நிற்கும்.

கலாச்சார வேறுபாடும் உள்ளது. நிறுவனச் செயல்பாடுகள் (Enterprise ops) டிக்கெட்டுகள் மற்றும் மாற்றக் காலங்கள் (change windows) பற்றி சிந்திக்கின்றன. செயற்கை நுண்ணறிவுச் செயல்பாடுகள் (AI ops) பணி வரிசைகள் (job queues) மற்றும் ஒரு நீண்ட செயல்பாட்டின் இறுதியில் ஒரு முனை (node) செயலிழக்கும்போது ஏற்படும் சங்கடமான உணர்வு ஆகியவற்றைப் பற்றி சிந்திக்கின்றன. இரண்டையும் நீங்கள் 'தரவு மையங்கள்' என்றே அழைக்கலாம் என்று நினைக்கிறேன், ஏனென்றால் அவை அப்படித்தான். அந்தப் பெயர் அதன் உள் கட்டமைப்பை மறைக்கிறது, அவ்வளவுதான்.

இது ஒரு தார்மீகத் தரவரிசை அல்ல. வெவ்வேறு இயந்திரங்கள், ஒரே குடும்பப் பெயர்.

GPU-கள், ஆக்சிலரேட்டர்கள், மற்றும் மின்சாரத்தை அதிகம் பயன்படுத்தும் ரேக்

பாரம்பரியமான உயர்த்தப்பட்ட தளத்தில் நடந்தால், அந்த அடுக்குகள் கிட்டத்தட்ட பணிவாகத் தோன்றும். ஆனால், செயற்கை நுண்ணறிவு (AI) வரிசையில் நடந்தால், அவை அந்தக் கட்டிடத்தையே விழுங்கிவிட விரும்புவது போலத் தெரியும்.

தனித்துவமான வன்பொருள் என்பது ஒரு புத்திசாலித்தனமான CPU அல்ல. அது முடுக்கித் தட்டுதான்: GPU-க்கள் அல்லது பிற AI சிப்கள், சர்வர்களிலும், பின்னர் ரேக்குகளிலும், அதன்பின் ஒரு உயர்-அலைவரிசை கட்டமைப்பைப் பகிர்ந்துகொள்ளும் வரிசைகளிலும் அடுக்கப்பட்டிருக்கும். GPU இடை இணைப்புகள், சிப்களை ஒன்றாக இணைத்து ஒரு மாபெரும் முடுக்கி போல் செயல்பட வைக்கின்றன; கிளஸ்டர் கட்டமைப்பும் வரிசை அளவில் இதே தந்திரத்தைச் செய்கிறது. அந்த இணைப்புகள் தடிமனாகவும் கணிக்கக்கூடியதாகவும் இருந்தால் மட்டுமே இணைப் பயிற்சி செயல்படும். அதை இழந்துவிட்டால், உங்கள் "கிளஸ்டர்" என்பது ஒரே அஞ்சல் குறியீட்டைப் பகிர்ந்துகொள்ளும் விலையுயர்ந்த பணிநிலையங்களின் குவியலாகிவிடும்.

சக்தி சிப்களைப் பின்தொடர்கிறது. அது ஒரு பருமனான அலுவலக PDU அல்ல. ஒரு அரங்கம் நிரம்பியவுடன், தகவல் தொழில்நுட்பச் சுமை மெகாவாட்டாக உயரும் - நான் ஒரு எண்ணைக் கற்பனை செய்து கூறப்போவதில்லை. ஒவ்வொரு ரேக்கின் அடர்த்திதான் இதில் உள்ள திருப்பம். குறைவான ரேக்குகள். ஒவ்வொன்றும் ஒரு சிறிய உலை. பெரும்பாலும், GPU-க்களின் விருப்பப் பட்டியலல்ல, துணை மின்நிலையமே ஒரு வரம்புக்குட்படுத்தும் காரணியாக இருக்கிறது. உங்களுக்குத் தெரியும், கொள்முதல் பிரிவினர் அதிக முடுக்கிகளை விரும்புவார்கள்; மின்சாரப் பிரிவினர் ஒரு நீண்ட உரையாடலையும் மிகப் பெரிய காசோலையையும் விரும்புவார்கள்.

என்னால் மறக்க முடியாத ஒரு சற்றே அபத்தமான உவமை: அந்த இறைச்சிக் கூடு ஒரு பசித்த விலங்கு. அதைவிட வேகமான ஒன்றை உங்களால் இனப்பெருக்கம் செய்ய முடியும். ஆனாலும், நீங்கள் அதற்கு உணவளிக்க வேண்டும், அதிலுள்ள வெப்பத்தையும் வெளியேற்ற வேண்டும். இந்த இரண்டில் ஒன்றைத் தவிர்த்தால், அது மிகவும் விலை உயர்ந்த ஒரு காகித எடைக்கல்லாக மாறிவிடும்.

சக்தி, வெப்பம் மற்றும் குளிரூட்டும் பிரச்சினை

மின்சாரம் உள்ளே. வெப்பம் வெளியே. அதுதான் முழு மதமும்.

அதிக அடர்த்தி கொண்ட அடுக்குகள், காற்று இதுவரை கையாளாத ஒரு வழியில் வெப்பத்தை வெளியேற்றுகின்றன. பின்பக்கக் கதவு வெப்பப் பரிமாற்றிகள், அதிக வெப்பமான நடைபாதைகள், திறமையான தடுப்பு அமைப்புகள் போன்றவற்றின் மூலம் காற்றை இன்னும் கடுமையாகச் செலுத்த முடியும் - அது ஒரு குறிப்பிட்ட புள்ளி வரை செயல்படும். அதன் பிறகு திரவம் தோன்றிவிடுகிறது:

• சிப்புக்கு நேரடி குளிர்விப்பு

• ஆலை அறையை ஒரு இரசாயன ஆலை போல் தோற்றமளிக்கச் செய்யும் குளிரூட்டி சுழற்சிகள்

• தண்ணீரும் சர்வர்களும் ஒரே வாக்கியத்தில் இருக்கக்கூடாது என்று நினைப்பவர்களை இன்னமும் திகைக்க வைக்கும் சில வடிவமைப்புகளில் மூழ்கிப்போதல்

இதில் கவர்ச்சிகரமானது எதுவும் இல்லை. இவை அனைத்தும் அதன் தயாரிப்புப் பொருளே, ஏனெனில் வேகத்தைக் குறைக்கும் ஒரு ஆக்சிலரேட்டரை நீங்கள் ஏற்கனவே பணம் கொடுத்து வாங்கியிருப்பீர்கள், அதை உங்களால் முழுமையாகப் பயன்படுத்த முடியாது.

PUE இன்னமும் முக்கியமானது. அது ஒரு விகிதமே தவிர, ஒரு தனித்தன்மை அல்ல. இயக்குபவர்கள் அதைத் துரத்துகிறார்கள், ஏனெனில் விசிறிகள் மற்றும் பம்புகளுக்காகச் செலவிடப்படும் ஒவ்வொரு வாட்டும், GPU-க்குச் செல்லாத ஒரு வாட் ஆகும். நான் ஒரு "வழக்கமான" புள்ளிவிவரத்தைக் குறிப்பிட மாட்டேன்; காலநிலையும் நீங்கள் எல்லையை எப்படி வரைகிறீர்கள் என்பதும் அதை மாற்றுகின்றன, மேலும் போலியான துல்லியம் என்பது துல்லியமின்மையை விட மோசமானது. நீரும் இந்தக் கதையில் ஒரு பங்கு வகிக்கிறது. சில தாவரங்கள் நீரை உறிஞ்சிக் குடிக்கின்றன. சில மடமடவெனக் குடிக்கின்றன. ஒரு நதியோ அல்லது வறட்சியோ அதை அரசியல்மயமாக்கும் வரை, ஆவியாதல் குளிர்விப்பு முறை திறமையானது

வலையமைப்பு: சில்லுகளைப் போலவே அதன் கட்டமைப்பும் ஏன் முக்கியமானது

மக்கள் GPU-க்களைப் புகைப்படம் எடுக்கிறார்கள். அவர்கள் ஸ்விட்சுகளையும் புகைப்படம் எடுக்க வேண்டும்.

பயிற்சி என்பது ஒரு உரையாடல். ஆயிரக்கணக்கான முடுக்கிகள், கிரேடியன்ட்கள், அளவுருக்கள், ஒரு மாதிரியின் துண்டுகள் ஆகியவற்றை மிக நெருக்கமான ஒத்திசைவில் பரிமாறிக்கொள்கின்றன. அந்த வலைப்பின்னல் தடுமாறினால், முழு வேலையும் மிக மெதுவான இணைப்புக்காகக் காத்திருக்கும். இதனால்தான் செயற்கை நுண்ணறிவு மையங்கள், உயர் அலைவரிசை வலையமைப்பு, குறைந்த தாமதம், மற்றும் ஒரு இணைப்பு செயலிழக்கும்போது பாதியாக மடிந்துவிடாத கட்டமைப்பு ஆகியவற்றில் அதீத கவனம் செலுத்துகின்றன. இன்ஃபினிபேண்ட் போன்ற வலைப்பின்னல்கள், அதே பாத்திரத்தில் ஈதர்நெட், கணினிக்குள் இருக்கும் GPU இடை இணைப்புகள், முதல் முறையிலேயே சரியாக இருக்க வேண்டிய கேபிளிங் போன்றவை.

அனுமானம் என்பது ஒரு வேறுபட்ட உரையாடல். மாதிரிச் சேவையானது வால் தாமதத்தைப் பற்றிக் கவலை கொள்கிறது - அதாவது, சராசரியான பதிலை அல்ல, மெதுவான பதிலை. தொகுதி முறைக்கும் நிகழ்நேர முறைக்கும் உள்ள வேறுபாடு இதன் தன்மையைப் பிரிக்கிறது. ஒரு பயிற்சி கிளஸ்டருக்கு பரந்த, கூட்டு, ஏறக்குறைய அனைத்துக்குமான நகர்வு. ஒரு சேவைத் தொகுப்போ, சுமை சமநிலைப்படுத்தியில் போக்குவரத்து நெரிசல் இல்லாமல், பல சிறிய கோரிக்கைகளையும் தனிமைப்படுத்தலையும் விரும்புகிறது.

நான் இங்கே இருக்கும்போது கவனிக்க வேண்டிய ஒரு விஷயம்: மக்கள் இணைய இணைப்பை குழாய் அமைப்பாகவும், சிப்ஸை உணவகமாகவும் கருதுகிறார்கள். இந்தக் கட்டிடத்தில், குழாய் அமைப்புதான் உணவகம். அதைத் தவறவிட்டால், டெலிவரியை ஏற்றுக்கொள்ள முடியாத ஒரு சமையலறையை நீங்கள் வாங்குவீர்கள்.

பயிற்சி மற்றும் அனுமானம்: இரண்டு கட்டிடங்கள், சில நேரங்களில் உண்மையில்

பயிற்சி என்பது ஒரு தொடர் நடவடிக்கை. நீங்கள் ஒரு கிளஸ்டரை உருவாக்கி, அதற்குத் தரவை அளித்து, தவறாமல் செக்பாயிண்ட் செய்து, பல மணிநேரம் அல்லது வாரங்கள் அதை இயக்கி, அதன் கட்டமைப்பு எந்தப் பிரச்சினையுமின்றி இருக்க வேண்டும் என்று பிரார்த்தனை செய்வீர்கள். அதிக தொகுதிப் பணிகள், அதிக அலைவரிசைத் தேவை, அமைதியான பொறுமை - ஒரு செயலிழந்த நோட் அந்த இயக்கத்தைப் பாதிக்கும் வரை. நெருக்கமாகப் பிணைக்கப்பட்ட ஒரு வேலையில் உள்ள ஒரு செயலிழந்த ஆக்சிலரேட்டர், முழு அமைப்பையும் முடக்கிவிடக்கூடும்.

அனுமானம் என்பது ஒரு கடை முகப்பு. ஏற்கனவே பயிற்சி பெற்ற மாதிரிகள், இப்போது கேள்விகளுக்குப் பதிலளிக்கின்றன, படங்களை வகைப்படுத்துகின்றன, உரையை உருவாக்குகின்றன. தாமதம் ஒரு முக்கிய காரணி. வாடிக்கையாளருக்கு அருகிலுள்ள சற்றே பழைய ஒரு முடுக்கி, ஒரு கண்டம் தொலைவில் உள்ள கவர்ச்சிகரமான ஒன்றை விஞ்சிவிடும்.

ஆகவே, ஒரு பிளவு ஏற்படுகிறது. பயிற்சி வளாகங்கள் ஆற்றல், நிலம் மற்றும் அடர்த்தியை நாடுகின்றன. அனுமான மையங்கள் தாமதம் மற்றும் இருப்பை நாடுகின்றன. மூலதனம் எல்லையற்றது அல்ல என்பதால், கலப்பின அரங்கங்களும் உள்ளன. சரி - எப்போதும் இரண்டு கட்டிடங்கள் அல்ல. சில நேரங்களில் ஒரு வெல்வெட் கயிறு மற்றும் இரண்டு குளிரூட்டும் சுற்றுகளுடன் கூடிய ஒரு அரங்கம்.

இங்குதான் கோலொகேஷன், ஹைப்பர்ஸ்கேல் வளாகங்கள் மற்றும் ஆன்-ப்ரம் ஆகியவை பிரிகின்றன. ஹைப்பர்ஸ்கேலர்கள், நம்மைப் போன்ற மற்றவர்களை மரச்சாமான்களை அடுக்கி வைப்பது போலத் தோற்றமளிக்கச் செய்யும் அளவுகளில் கட்டமைக்கிறார்கள். கோலொகேஷன்கள் ரேக்குகளின் அடிப்படையில் அடர்த்தியை விற்கின்றன. தரவுகள் வெளியேற முடியாதபோது ஆன்-ப்ரம் முறை இன்றும் நடைமுறையில் உள்ளது.

சேமிப்பக செயல்திறன், சோதனைச் சாவடிகள் மற்றும் அதிக நினைவகத்தைப் பயன்படுத்தும் சில்லுகள்

யாரும் இணை கோப்பு முறையை சிற்றேட்டின் அட்டையில் குறிப்பிடுவதில்லை.

GPU-க்கள் திணறாத அளவுக்குப் பயிற்சித் தரவுகள் போதுமான வேகத்தில் வந்து சேர வேண்டும். ஒரு செயலிழப்பு ஒரு வாரத்தை வீணாக்காத வகையில், சரிபார்ப்புப் புள்ளிகள் (checkpoints) சரியாக நிறுவப்பட வேண்டும். ஒரு சேவைப் பிரதி (serving replica) நேரலைக்கு வருவதற்கு முன்பு, மாதிரி எடைகள் (Model weights) ஏற்றப்பட வேண்டும். சேமிப்பகத்தின் கொள்ளளவு மட்டுமல்ல, அதன் செயல் திறனும்தான் ஒரு மறைமுகமான முட்டுக்கட்டையாகும். நீங்கள் முடுக்கிகளுக்காக (accelerators) பெரும் தொகையைச் செலவழித்துவிட்டு, மெய்நிகர் இயந்திரங்களுக்காக (virtual machines) வடிவமைக்கப்பட்ட ஒரு நேர்த்தியான வரிசை (modally array) மூலம் அவற்றின் செயல்திறனைக் குறைக்கலாம்.

இந்த முறை நமக்கு நன்கு பரிச்சயமானது: ஒரு பளபளப்பான கிளஸ்டர், ஒரு பணி வரிசை, மற்றும் ஒரு அநாகரிகமான விலைப்பட்டியலைப் போல முறைத்துப் பார்க்கும் உள்ளீடு/வெளியீட்டு காத்திருப்பு. தரவுப் பாதையைக் கிளஸ்டர் செய்யாமல் கணக்கீட்டைக் கிளஸ்டர் செய்வதுதான், மிகவும் விலையுயர்ந்த ஒரு செயலற்ற நிலையை உருவாக்கும். சிப்களுக்குத் தொடர்ந்து ஊட்டம் அளியுங்கள் அல்லது நீங்கள் ஒரு சிற்பத்தை வாங்கியுள்ளீர்கள் என்பதை ஒப்புக்கொள்ளுங்கள்.

மென்பொருள், ஒருங்கிணைப்பு மற்றும் கவர்ச்சியற்ற செயல்பாட்டு அடுக்கு

வன்பொருள்தான் பிரபலம். திட்டமிடுபவர்கள் வேலையைச் செய்கிறார்கள்.

பணிகளால் GPU-க்களைக் கண்டுபிடிக்க முடியாவிட்டால், இரண்டு அணிகளால் கைகலப்பின்றி ஒரு கிளஸ்டரைப் பகிர முடியாவிட்டால், செயலிழந்த ஒரு ரேங்கை மாற்றீடு செய்ய முடியாவிட்டால், மென்பொருள் கட்டமைப்பு மெதுவாகச் செயலிழக்கும் வரை அதன் செயல்திறன் மாறிக்கொண்டே இருந்தால், ஒரு AI தரவு மையம் பயனற்றதாகிவிடும். ஒருங்கிணைப்பு, கண்காணிப்பு, ஆற்றல் வரம்பு - இவை கவர்ச்சியற்ற செயல்பாட்டு அடுக்குகள்; இவற்றின் முக்கியத்துவத்தை இதன் மூலமே நீங்கள் அறிந்துகொள்ள முடியும்.

இந்த லேயர் மீது எனக்கு ஒரு தனிப் பிரியம் உண்டு. மேலும், தவறாக உள்ளமைக்கப்பட்ட ஒரு NIC, மதியம் முழுவதும் குளிரூட்டும் பிரச்சனை இருப்பது போல் காட்டிக்கொள்ளும்போது... அதை நாம் கடினமான முறையில்தான் தெரிந்துகொள்வோம்.

செயல்பாட்டின் நடுவில் ஒரு நோட் செயலிழக்கும்போது

ஒரு நோட் செயலிழக்கிறது. உங்கள் காலெண்டரைப் பொருட்படுத்தாத பயிற்சி ஓட்டங்களுடன், மாற்றக் காலங்கள் இன்னமும் மோதுகின்றன. நீங்கள் பெரிய பணிகளை மொத்தமாகத் திட்டமிடுகிறீர்கள், அனுமானத் தொகுப்புகளை வேலி போட்டுப் பிரிக்கிறீர்கள், "பணி மெதுவாக உள்ளது" என்பது போலத் தோன்றும் தோல்விகளுக்காக ரன்புக்குகளை எழுதுகிறீர்கள், இறுதியில் அவை "பணி முற்றிலும் நின்றுவிட்டது" என்பது போலத் தோன்றும் வரை. மிகைப்பணிகள் இன்னமும் முக்கியமானவை - மின்சாரம், குளிரூட்டல், பாதைகள், சேமிப்பகம் - ஆனால், பழைய ஒன்பது-மணிநேர இயக்க நேர ஸ்லைடை விட, தோல்வி முறை அவ்வளவு நேர்த்தியாக இல்லை. அனுமானம்: பிரதியெடுத்தல், செயலிழந்த நோடின் ஆற்றலை வெளியேற்றுதல், தொடர்ந்து பதிலளித்தல். பயிற்சிக்குத் தேவைப்படுவது சோதனைச் சாவடிகளே தவிர, அதீத நம்பிக்கையல்ல.

அமைவிடம், நீர், மின் கட்டமைப்பு மற்றும் அண்டை வீட்டார்

காட்சிக்காக இவற்றில் ஒன்றை ஒரு குடிலின் அருகில் போட்டு வைக்க மாட்டீர்கள்.

மின் கட்டமைப்பு இணைப்புதான் பெரும்பாலும் உண்மையான இடத் தேர்வு செயல்முறையாக இருக்கிறது. ஒரு துணை மின் நிலையம் மற்றும் பிற வாடிக்கையாளர்களைக் கொண்ட ஒரு பயன்பாட்டு நிறுவனத்துடன் ஒப்பிடும்போது நிலம் எளிதானது. குளிர்விப்பதற்காக நீங்கள் தண்ணீரைப் பயன்படுத்தினால், மழை கடுமையாகப் பெய்யத் தொடங்கியவுடன் அது அண்டை வீட்டுப் பிரச்சினையாகிவிடுகிறது. இரைச்சல். பார்வைக்கு பிரம்மாண்டமாகத் தெரிவது. எல்லை வேலியில் வெப்பம். ஒரு வயலும் ஆறும் தேவைப்படும் தருணத்தில், திட்டமிடல் குழுக்கள் "மின் மேகம்" குறித்த கருத்துக்களைக் கண்டறிகின்றன.

தாமதம் எதிர் திசையில் இழுக்கிறது. ஊகம் பயனர்களுக்கும் இடை இணைப்புகளுக்கும் அருகில் இருப்பதை விரும்புகிறது. பயிற்சி மலிவான மின்சாரச் சந்தைகளிலும் குளிர்ச்சியான காலநிலைகளிலும் மறைந்திருக்க முடியும். ஒரே ஒரு சரியான தளம் இருப்பது போல இந்தத் துறை பேசுகிறது. அப்படி இல்லை. ஒரு பத்திரிகை வெளியீட்டின் மூலம் ஒரு சமரசம் செய்யப்படுகிறது.

எஞ்சிய வெப்பமும் அழைக்கப்படாத உலையும்

விளம்பரத் துண்டுப்பிரசுரங்கள் இந்த பகுதியை மிகவும் விரும்புகின்றன. கழிவாகக் கிடைக்கும் வெப்பத்தை வீடுகளுக்கும், நீச்சல் குளங்களுக்கும், பசுமைக் குடில்களுக்கும் குழாய் மூலம் அனுப்புங்கள்; இது ஒரு அருமையான வாக்கியம். சில நேரங்களில் மாவட்டச் சுழற்சி உண்மையானதாக இருக்கும். சில நேரங்களில் வளாகம் தவறான இடத்தில் அமைந்திருக்கும், அப்போதும் வெப்பம் காற்றில் கலந்துவிடும். துண்டுப்பிரசுரத்தில் உள்ள பதிப்பின் மீது எனக்குச் சந்தேகம் உண்டு; ஆனால் அதன் இயற்பியலின் மீது எனக்குச் சந்தேகம் இல்லை.

யாருக்கு ஒன்று தேவை (யார் வாடகைக்கு எடுக்க வேண்டும்)

பெரும்பாலான மக்களுக்கு இந்த அரங்குகளில் ஒன்றை சொந்தமாக வைத்திருக்க வேண்டிய அவசியம் இல்லை.

நேரடியான பட்டியல்:

• ஹைப்பர்ஸ்கேலர்கள், ஏனெனில் தயாரிப்பு என்பது கடற்படை

• ஆய்வகங்களில், காத்திருப்பு நேரமே முட்டுக்கட்டையாக இருக்கும்போது, ​​அல்லது தரவு வெளியேற முடியாதபோது

• ஒரு வங்கி, மருத்துவமனை குழுமம், அரசாங்கம் அல்லது ஒரு உற்பத்தியாளர், தங்களிடம் உள்ள இரகசிய தரவுத்தொகுப்பு - அது சொந்த சேமிப்பகத்திலோ அல்லது ஒரு தனியார் கோலோ கேஜிலோ இருந்தாலும் - அது சிக்கலானதாக இருந்தாலும் பகுத்தறிவுடன் செயல்பட முடியும்

மற்ற அனைவரும் வாடகைக்கு எடுத்துக்கொள்ள வேண்டும். செயற்கை நுண்ணறிவுக்குத் தயாரான அடர்த்தியுடன் கூடிய கோலொகேஷன். ஒரு கிளவுட் ரிசர்வேஷன். ஒரு நிர்வகிக்கப்பட்ட கிளஸ்டர். நீங்கள் ஒரு மின் உற்பத்தி நிலைய இயக்குநராக மாறாமலேயே, முடுக்கிகளைப் பெறுகிறீர்கள். அதிகாலை 3 மணிக்கு குளிரூட்டி சுழற்சிக்கு யார் பொறுப்பு என்று யாராவது கேட்கும் முதல் முறையிலேயே அந்த ஈர்ப்பு மங்கிவிடுகிறது.

இதில் ஒரு கர்வம் இருக்கிறது என்பதை நான் ஒப்புக்கொள்கிறேன். அந்தத் தொகுப்பைச் சொந்தமாக்கிக் கொள்வது, முன்கணிப்புக்கான வழிமுறைகளைச் சொந்தமாக்கிக் கொள்வது போன்ற ஒரு உணர்வைத் தருகிறது. பிறகு மின்சாரக் கட்டண ரசீது வருகிறது, அந்தக் கர்வம் அடங்கிவிடுகிறது.

கட்டிடம் எதற்காக

அப்படியானால், AI தரவு மையம் என்றால் என்ன? அது ஒரு மூலையில் GPU உடன் இருக்கும் ஒரு பொது நோக்கத்திற்கான தகவல் தொழில்நுட்பம் அல்ல; மாறாக, அது ஒரு பிரத்யேகமான, அதிக அடர்த்தி கொண்ட வளாகமாகும். அங்கு முடுக்கிகள், மின்சாரம், குளிரூட்டல், கட்டமைப்பு மற்றும் சேமிப்பகம் ஆகியவை மாதிரிகளுக்குப் பயிற்சி அளிப்பதையும் சேவை செய்வதையும் மையமாகக் கொண்டு ஒழுங்கமைக்கப்பட்டிருக்கும். அது பார்ப்பதற்கு ஒரு கிடங்கு போலத் தோற்றமளிக்கும். ஆனால், அது கணிதக் கணக்குகளைச் செய்யும் ஒரு மின் நிலையம் போலச் செயல்படும்.

வேறு எதையும் நினைவில் கொள்ளாவிட்டாலும்: சில்லுகள் புகழைப் பெறுகின்றன; அந்தச் சில்லுகள் ஒரு நல்ல யோசனையா என்பதைத் துணை மின்நிலையம், குளிரூட்டி மற்றும் வலையமைப்பு ஆகியவை தீர்மானிக்கின்றன. பயிற்சியும் அனுமானமும் ஒரே கூரையின் கீழ் இருக்கலாம்; ஆனாலும் அவற்றுக்கு வெவ்வேறு நடத்தை முறைகளே தேவைப்படுகின்றன. பெரும்பாலான நிறுவனங்கள் வாடகைக்கு எடுக்க வேண்டும். ஒரு சில நிறுவனங்கள் புதிதாகக் கட்ட வேண்டும். எப்படியிருந்தாலும் அண்டை வீட்டார் இதைக் கவனிப்பார்கள்.

மேகத்திற்கு எப்போதுமே ஒரு கட்டிடம் இருந்தது. இப்போதெல்லாம் அந்தக் கட்டிடத்திற்குக் கருத்துகள் இருக்கின்றன.

நிஜ உலக உதாரணம்: படங்கள் வெளியேற முடியாத நிலையில் உள்ள இரண்டு அடுக்கு பயிற்சி அறை

சூழ்நிலை

டோமோஸ், வெஸ்ட் மிட்லாண்ட்ஸில் உள்ள 400 பணியாளர்களைக் கொண்ட உற்பத்தி நிறுவனமான கெஸ்ட்ரல் பிரசிஷனில் உள்கட்டமைப்புத் தலைவராக உள்ளார். அவர்களிடம் ஏற்கனவே ஒரு சிறிய வளாகக் கூடம் உள்ளது: ERP, கோப்புப் பகிர்வுகள், மெய்நிகர் இயந்திரங்கள், இந்தக் கட்டுரை தொடங்கிய கலவையான சூழல். காற்று குளிர்விப்பு. சாதாரண ஈதர்நெட். அலுவலக வட்டுகளுக்கு மிகவும் பொருத்தமான ஒரு SAN.

இயந்திரப் பார்வை குழு, தொழிற்சாலை வடிப்பான்களில் ஒரு ஆய்வு மாதிரியைப் பயிற்றுவிக்க வேண்டும். அந்த வடிப்பான்கள் அந்த இடத்தை விட்டு வெளியே செல்ல முடியாது. ஒரு தனியார் கிளவுட் டிஸ்கில் கூட நிறுவனம் பதிவேற்ற விரும்பாத ஒரு செயல்முறையை அவை காட்டுகின்றன. கொள்முதல் துறையின் தீர்வு, நான்கு இரட்டை முடுக்கி சேவையகங்களும், "எங்கள் AI தரவு மையம்" என்ற தலைப்பிலான ஒரு ஸ்லைடும் ஆகும். அந்த சேவையகங்கள் ஏற்கனவே உள்ள இரண்டு ரேக்குகளில் பொருத்தப்படுகின்றன, ஏனெனில் அங்கே இடம் இருந்தது, மேலும் அந்த இடமே ஒரு தடையாக உணரப்பட்டது.

அது அப்படியில்லை. இரண்டு வாரங்களுக்குள் GPU-க்கள் பரபரப்பாக இயங்குவது போல் ஒலித்து, பின்னர் மெதுவாகத் தங்கள் வேகத்தைக் குறைத்துக்கொள்கின்றன. ஒரு சோதனை முனை SAN-ஐ அடையும்போது, ​​வேலைகள் மிகவும் மெதுவாக நகர்கின்றன. பதினோராம் மணி நேரத்தில் ஒரு கணு செயலிழக்கிறது, அதோடு அந்த ஓட்டம் அப்படியே... முடிந்துவிடுகிறது. டோமோஸ் சிப்களை வாங்கத் தவறவில்லை. ஒரே அஞ்சல் குறியீட்டைப் பகிர்ந்துகொள்ளும் விலையுயர்ந்த பணிநிலையங்களின் ஒரு குவியலை அவர் வாங்கியிருக்கிறார். அந்தக் கட்டிடம் இன்னமும் ஒரு தொழில் முனைவோர் கூடமாகவே இருந்தது.

அவர்களுக்கு ஒரு வளாகமோ, ஒரு புதிய துணை மின் நிலையமோ, அல்லது ஒரு நதியோ தேவையில்லை. அவர்களுக்குத் தேவையானது, ஒரு சிறிய AI தரவு மையத்தைப் போலச் செயல்படும் ஒரு சிறிய செல் ஆகும்: ரேக்குகள் உண்மையில் சேமிக்கக்கூடிய ஆற்றல், சிப்களைச் சேதப்படுத்தாமல் வெளியேறும் வெப்பம், பயிற்சிப் பணி உரையாடக்கூடிய ஒரு ஃபேப்ரிக், ஒரு செக்பாயிண்ட்டை ஏற்கக்கூடிய சேமிப்பகம், மற்றும் ஒரு நோட் செயலிழக்கும்போது பயன்படுத்த ஒரு ரன்புக். இமேஜ்களை அங்கிருந்து வெளியேற்ற முடியாததால், நாற்பது நிமிடப் பயண தூரத்தில் ஒரு கோலோ கேஜை வாடகைக்கு எடுப்பது தீர்வாகாது. இரண்டு ரேக்குகளைப் பொருத்துவதே தீர்வாகும்.

செல்லுக்குத் தேவையானவை

• அந்த வரிசைக்கான அளவிடப்பட்ட மின்சார ஒதுக்கீடு, GPU விருப்பப் பட்டியலிலிருந்து அல்லாமல், PDU-களிலிருந்து பெறப்பட்டது. பயிற்சிச் சுமையின்போது மீதமுள்ள திறன் நான்கு சர்வர்களுக்கும் மின்சாரம் வழங்கப் போதுமானதாக இல்லையென்றால், அந்த உரையாடல் அத்துடன் நின்றுவிடும்; அவர்கள் ஒரு அற்புதத்தைப் பற்றி யோசிக்காமல், அடர்த்தியான ஒரு கோலோவைப் பற்றியே சிந்திப்பார்கள்

• இந்த அடர்த்தியில் காற்றைக் குளிர்விக்க ஒருபோதும் கோரப்படவில்லை: மண்டபத்தில் இடமிருந்தால் பின்புறக் கதவு வெப்பப் பரிமாற்றிகள், அல்லது அதற்குப் பதிலாக இடமிருந்தால் ஒரு சிறிய திரவச் சுழற்சி. இரண்டும் இல்லையென்றால், சர்வர்கள் உள்ளே வைக்கப்படுவதில்லை

• நான்கு நோடுகளுக்கு இடையே அலுவலக ஈதர்நெட் அல்லாமல், ஒரு பிரத்யேக உயர் அலைவரிசை இணைப்பு இருக்க வேண்டும். விற்பனையாளரின் பட்டியலில் 10 ஜிபி ஸ்விட்ச் மட்டுமே இருந்தால், அது ஒரு கிளஸ்டர் ஆகாது

• சோதனைச் சாவடிகள் மற்றும் பயிற்சித் துண்டுகளுக்கான உள்ளூர் வேகமான சேமிப்பகம், VM SAN அல்ல

• ஒரு திட்டமிடுபவர், ஒரு சரிபார்ப்பு இடைவெளி, மற்றும் எழுதப்பட்ட மறுதொடக்கம் செய்யும் வழி. வன்பொருள்தான் பிரதானம். இந்த அடுக்குதான் வேலை

• பயிற்சிக் கூச்சலிலிருந்து பிரிக்கப்பட்ட, தொழிற்சாலை வரிசைக்கான ஒரு வேலியிடப்பட்ட அனுமானப் பெட்டி, ஏனெனில் சேவைக்கு வால் தாமதமும் தனிமைப்படுத்தலும் தேவை, ஒரு கூட்டு அல்ல

• மின்சாரம், GPU கடிகாரங்கள், வேகத்தடை நிகழ்வுகள் மற்றும் பணியின் மொத்த வேகம் ஆகியவற்றை பதிவு செய்வதற்கான அனுமதி. அவற்றை அவர்களால் ஆய்வு செய்ய முடியாவிட்டால், அவர்கள் GPU-க்களைப் புகைப்படம் எடுத்துவிட்டு, சுவிட்சுகளைத் தவறவிட்டுவிடுவார்கள்

எடுத்துக்காட்டு அறிவுறுத்தல்

டோமோஸ் இதை வசதிகள் குறித்த சுருக்க அறிக்கையில், சாதாரண மொழியில் குறிப்பிடுகிறார்:

இதை ஒரு AI வளாகம் என்று அழைக்காதீர்கள். தற்போதுள்ள கூடத்தில் நான்கு டூயல்-ஆக்சிலரேட்டர் சர்வர்களுக்காக இரண்டு ரேக்குகள் கொண்ட ஒரு பயிற்சி அறையை உருவாக்குங்கள். ஃபேக்டரி இமேஜ்கள் இங்கேயே இருக்கட்டும். வெற்றி என்பது: அந்த நான்கு நோட்களும் வெப்பத் தடையின்றி 12-எபோக் ஆய்வு-பயிற்சி ரெசிபியை முடிப்பது, பத்து நிமிடங்களுக்குப் பதிலாக நிமிடங்களில் ஒரு செக்பாயிண்ட்டை எழுதுவது, மற்றும் நாம் வேண்டுமென்றே ஒரு ரேங்கை முடக்கும்போது அந்த செக்பாயிண்ட்டிலிருந்து மீண்டும் தொடங்குவது. குளிரூட்டல், GPU-க்களை அவற்றின் பயிற்சி கிளாக்குகளில் வைத்திருக்க வேண்டும். நெட்வொர்க்கிங் என்பது அந்த நான்கு பெட்டிகளும் பகிரும் ஒரு பொதுவான அமைப்பாக இருக்க வேண்டுமே தவிர, அலுவலக ஸ்டாக் வழியாகச் செல்லும் ஒரு பாதையாக இருக்கக்கூடாது. சேமிப்பகம் சிப்களுக்குத் தேவையான ஆற்றலை வழங்க வேண்டும். பின்பக்க கதவு வெப்பப் பரிமாற்றிகள் பொருந்தாது என்றால், அதைக் கூறிவிட்டு நிறுத்திவிடுங்கள். ஒரு கலப்பு கூடத்தில் உள்ள இரண்டு ரேக்குகளுக்கு PUE-ஐ மேற்கோள் காட்டாதீர்கள். அந்த எண் ஒரு நாடகமாகவே இருக்கும்.

பிறகு அவர் இதை அந்தப் பயிற்சிப் பணியிலேயே சேர்க்கிறார்:

ஒவ்வொரு 30 நிமிடங்களுக்கும் உள்ளூர் ஃபாஸ்ட் பூலுக்குச் சென்று சரிபார்க்கவும். ஒரு ரேங்க் செயலிழந்தால், கடைசியாக வெற்றிகரமாக முடித்த செக்பாயிண்டிலிருந்து மீண்டும் தொடங்கவும். SAN-க்காகக் காத்திருக்க வேண்டாம். ஹீட் காரணமாக கிளாக்ஸ் குறைந்திருக்கும்போது பயிற்சியைத் தொடர வேண்டாம். அதை லாக் செய்து நிறுத்துங்கள், அப்போதுதான் எங்களால் ஸ்டாலைக் காண முடியும்.

ஒரு நல்ல மணிநேரம் இப்படி இருக்கும்: எட்டு GPU-களும் பயிற்சி வேகத்தில் இயங்கும், செக்பாயிண்ட் கோப்பு பதிவேற்றப்பட்டிருக்கும், பணி சீராகச் சென்றுகொண்டிருக்கும். ஒரு மோசமான மணிநேரம் இப்படி இருக்கும்: மின்விசிறிகள் முழு வேகத்தில் சுழலும், வேகம் குறைந்திருக்கும், பத்து நிமிடங்களுக்குப் பிறகு செக்பாயிண்ட் 2% எழுதப்பட்டிருக்கும், அலுவலகத்தில் யாரோ ஒருவர் "கிளஸ்டர் இயங்குகிறது" என்று சொல்வார். இயங்குவது என்பது பயிற்சி வேகம் அல்ல.

அதை எப்படி சோதிப்பது

அவர்கள் மாற்றியமைப்பதற்கு முன்பே சோதனையை எழுதுகிறார்கள், ஒரு டெமோவை நம்பக்கூடாது என்பதன் முழு நோக்கமே அதுதான்.

• அதே 12-காலகட்ட செய்முறை, அதே 120,000 பரிசோதனைக் கலன்கள், எட்டு ஓட்டங்கள்

• ஒரு செய்முறை நிறைவடைவதற்கான நேரக் கணக்கீடு என்பது, பணி சமர்ப்பிக்கப்பட்டதிலிருந்து எப்போக் 12-இன் கடைசிச் சோதனைப் புள்ளி வரையிலானதாகும்; இதில் மறுதொடக்கம் உட்பட அனைத்தும் அடங்கும்

• வெப்பம் தணிதல்: இந்தச் செயல்பாட்டின்போது GPU கடிகாரங்கள் பயிற்சி இலக்கிலேயே நிலைத்திருக்கும். பணி இறுதியில் முடிந்தாலும், ஒரு வேகத்தடை நிகழ்வு தோல்வியாகவே கருதப்படும்

• சேமிப்பகத்தின் மீதான ஒரு பார்வை: பணிப் பதிவேட்டிலிருந்து பெறப்பட்ட சரிபார்ப்பு எழுதும் நேரம், சராசரி மற்றும் மோசமான நிலை

• துணியின் மீதான ஒரு குறிப்பு: ஒரு அணி ஆரோக்கியமாக இருக்கும்போது, ​​வேலை கூட்டு காத்திருப்பில் இருப்பதில்லை. அந்தக் காத்திருப்பை அவர்களால் காண முடியாவிட்டால், கருவியாக்கம் செய்யப்படவில்லை என்று பொருள்

• மறுதொடக்கம் செய்யும் பாதையைச் சோதிப்பதற்காக, எட்டு ஓட்டங்களில் இரண்டில், ஒரு குறிப்பிட்ட படிநிலையில் வேண்டுமென்றே ஒரு தரவரிசை குறைக்கப்படுகிறது

• அனுமானம் என்பது தொழிற்சாலை உற்பத்தி வரிசையிலிருந்து வேலியிடப்பட்ட பரிமாறும் பெட்டிக்குச் செய்யப்படும் ஒரு தனி 200-படச் சோதனையாகும். பயிற்சியில் கிடைக்கும் வெற்றி, பரிமாறும் வெற்றியாகக் கருதப்படாது

• அவர்கள் PDU-களிலிருந்து வரும் ரேக் பவரை 15 நிமிட மாதிரிகளில் பதிவு செய்வதால், யாரும் ஒரு மெகாவாட்டை புதிதாகக் கண்டுபிடிக்க வேண்டியதில்லை

செல்லை "AI-தயார்" என அழைப்பதற்கான ஏற்பு: 8-ல் 8 செய்முறைகளும் முடிந்துவிட்டன; 8-ல் 0 செய்முறைகள் வெப்பத் தடையைக் காட்டுகின்றன; நிறுத்தப்பட்ட இரண்டு ஓட்டங்களும் மீண்டும் தொடங்குகின்றன; சோதனைச் சாவடிகள் நிமிடங்களில் நிலைத்திருக்கின்றன. அவர்கள் அதைத் தவறவிட்டாலும், அவர்களிடம் மேம்பட்ட கிராபிக்ஸ் கார்டுகள் கொண்ட ஒரு சர்வர் அறை இருக்கிறது.

முடிவு

இது ஒரு கற்பனையான எட்டு-ஓட்ட சோதனையின் விளக்க முடிவு, வெளியிடப்பட்ட கெஸ்ட்ரல் புள்ளிவிவரம் அல்ல.

அனுமானங்கள்: இரண்டு ரேக்குகளில் நான்கு இரட்டை-முடுக்கி சேவையகங்கள்; ஒரு ஆய்வு மாதிரி; 120,000 ஸ்டில்கள்; ஒரு நிலையான 12-எபோக் ரெசிபியின் எட்டு ரன்கள்; ரெசிபி முடியும் வரை வால்-கிளாக் மறுதொடக்கங்களை உள்ளடக்கியது; த்ராட்டில் என்பது பயிற்சி கடிகாரத்திலிருந்து பதிவுசெய்யப்பட்ட ஒரு வீழ்ச்சியைக் குறிக்கிறது; செக்பாயிண்ட் நேரம் என்பது எழுதுதல், விருப்பம் அல்ல; ரேக் பவர் என்பது PDU மாதிரிகள், வளாக PUE அல்ல.

மாற்றியமைப்பிற்கு முன்பு, அலுவலக ஈதர்நெட் மற்றும் VM SAN-இல் உள்ள சாதாரண காற்று குளிரூட்டப்பட்ட ரேக்குகளில் இருந்த GPU-கள்:

• 8 ஓட்டங்களில் 5 முதல் முயற்சியிலேயே முடிந்தன. அந்த ஐந்தின் சராசரி நேர அளவு: 14 மணிநேரம்

• சுமார் 11வது மணி நேரத்தில் ஏற்பட்ட ஒரு தேக்கநிலைக்குப் பிறகு, எட்டில் மூன்று மீண்டும் தொடங்க வேண்டியிருந்தது (அவற்றில் இரண்டு, காலாவதியான சோதனைச் சாவடியுடன் ஒரு கணு செயலிழந்ததாலும், ஒன்று, ஒரு சோதனைச் சாவடி SAN-ஐ நிரப்பியதாலும் ஏற்பட்டன). உடனடியாக மீண்டும் முயற்சிக்கப்பட்டது, கடிகாரத்தில் இரவு முழுவதும் காத்திருக்க வேண்டிய அவசியம் ஏற்படவில்லை: 11 மணி நேரம் வீணானது, அதனுடன் 14 மணி நேர இரண்டாவது முயற்சியும் சேர்த்து, அந்த மூன்றையும் ஒரு முழுமையான செய்முறையை முடிக்க 25 மணி நேரம் ஆனது

• மீண்டும் தொடங்குதல்கள் உட்பட, எட்டு சமையல் குறிப்புகளிலும் ஒரு சமையல் குறிப்பை முடிக்க ஆன சராசரி நேரம்: 18 மணிநேரம். (ஐந்துக்கு 14 மணிநேரம், மூன்றுக்கு 25 மணிநேரம். எட்டின் இடைநிலை மதிப்பும் 14 மணிநேரமே, இது மீண்டும் தொடங்குதல்களை மறைத்துவிடும். அதனால்தான் இங்கு சராசரியே அடிப்படையாகக் கொள்ளப்படுகிறது.)

• 8 முயற்சிகளில் 7-ல் வெப்பக் கட்டுப்பாடு பதிவு செய்யப்பட்டது. குறைக்கப்பட்ட வேகத்தில் சராசரி நேரம்: 14 மணி நேர முயற்சியில் 3 மணி நேரம்

• சோதனைச் சாவடி எழுதுதல்: சராசரி 22 நிமிடங்கள்

• கூட்டான கொலை என்பது அவர்களால் தேர்ச்சி பெறக்கூடிய ஒரு சோதனையாக இருக்கவில்லை. அவர்களிடம் அதற்கான செயல்திட்டம் இருக்கவில்லை. அந்த இரண்டு தற்செயலான மரணங்களே இதற்குக் கிடைத்த சான்றாகும்

• பயிற்சியின் போது இரண்டு ரேக்குகளின் மீதான உச்சபட்ச தகவல் தொழில்நுட்பச் சுமை: சுமார் 18 kW. அந்த ரோவில் வாட்ஸ் இருந்தது. ஆனால், அதில் குளிரூட்டலோ அல்லது துணியோ இருக்கவில்லை

அந்த இரண்டு ரேக்குகளில் உள்ள பின்புற கதவு வெப்பப் பரிமாற்றிகளுக்குப் பிறகு, நான்கு நோடுகளுக்கு இடையில் ஒரு பிரத்யேக ஃபேப்ரிக், செக்பாயிண்ட்களுக்கான ஒரு சிறிய NVMe பூல், 30 நிமிட செக்பாயிண்டிங், மற்றும் ஒரு ரீஸ்டார்ட் ரன்புக்:

• 8-க்கு 8 முதல் முயற்சியிலேயே முடிந்தது. சராசரி நேரம்: 9 மணி நேரம்

• வெப்பக் கட்டுப்பாடு: 8 இல் 0

• சோதனைச் சாவடி எழுத்து: இடைநிலை 90 வினாடிகள். இந்தத் தொகுப்பில் மிக மோசமானது: 3 நிமிடங்கள்

• திட்டமிட்டு செய்யப்பட்ட அந்த இரண்டு தரவரிசைக் கொலைகளும் கடைசி 30 நிமிட சோதனைச் சாவடியிலிருந்து மீண்டும் தொடங்கின. அந்த இரண்டு ஓட்டங்களிலும் கூடுதல் நேரக் கணக்கீடு இருந்தது: பழுது கண்டறிதல் உட்பட, ஒவ்வொன்றிற்கும் சுமார் 40 நிமிடங்கள். அதனால், அவை இரண்டும் ஏறக்குறைய 9 மணி 40 நிமிடங்கள் எடுத்தன. எட்டு சுற்றுகளின் சராசரி 9 மணி நேரம் ஆகும்

• அதிகபட்ச தகவல் தொழில்நுட்பச் சுமை இன்னமும் சுமார் 18 kW ஆக உள்ளது. அதே சிப்புகள். கட்டமைப்பின் செயல்பாடு வேறுபட்டது

இந்த மாதிரியில், ஒரு செய்முறையை முடிக்க ஆகும் சராசரி நேரம் 18 மணிநேரத்திலிருந்து 9 மணிநேரமாகக் குறைந்தது; அதாவது, எட்டுச் சோதனை ஓட்டங்களில் ஒவ்வொரு முறையும் 9 மணிநேரம் என மொத்தம் 72 மணிநேரம் ஆனது. முதல் முறையிலேயே முடித்தவர்களின் எண்ணிக்கை 8-ல் 5 என்பதிலிருந்து 8-ல் 8 ஆக உயர்ந்தது. வேகக் கட்டுப்பாடு 8-ல் 7 என்பதிலிருந்து 8-ல் 0 ஆக மாறியது. அந்த கடைசி எண்தான், அவர்கள் வேகமூட்டிகளை வாங்கினார்களா அல்லது காகித எடைகளை வாங்கினார்களா என்பதைக் கூறுகிறது. இந்த நேர மாற்றத்தை அவர்கள் உற்பத்தியில் 50% சேமிப்பு என்று கூற மாட்டார்கள். எட்டுச் சோதனை ஓட்டங்கள் என்பது ஒரு சிறிய, எளிதான தொகுப்பாகும்.

இந்த புள்ளிவிவரங்கள், குறிப்பிடப்பட்ட சோதனை, ஒரு சிறிய மாதிரி, ஒரு மாடல் மற்றும் ஒரு கலப்பு அரங்கம் ஆகியவற்றின் அடிப்படையில் அமைந்த ஒரு எடுத்துக்காட்டு மதிப்பீடு ஆகும். இவை ஒரு PUE அல்ல, ஒரு வளாக மெகாவாட் அல்ல, மேலும் கெஸ்ட்ரல் ஒரு திறந்தவெளியில் பயிற்சி மையத்தை அமைக்க வேண்டும் என்பதற்கான ஆதாரமும் அல்ல. பதிவேடுகளின் ஆய்வு 9 மணி நேரத்திற்குள் செய்யப்பட்டது; அவர்கள் அதை மறைக்கவில்லை. 18 kW என்ற புள்ளிவிவரம் ஒரு முழுமையாக்கப்பட்ட PDU அளவீடு ஆகும், அது ஒரு பயன்பாட்டு விலைப்பட்டியல் அல்ல. அவர்கள் 72 மணி நேரத்தை ஒரு செலவாக மாற்றவில்லை, ஏனெனில் தொழிற்சாலையின் கலப்பு மின்சாரக் கட்டணம் ஒரு போலியான வணிகக் காரணத்தை உருவாக்கியிருக்கும்.

பரிமாறும் சோதனை தனியாகவும் சிறியதாகவும் இருந்தது: வேலியிடப்பட்ட பெட்டிக்கு 200 கோட்டுப் படங்கள், அனைத்தும் அந்த இடத்திலேயே எடுக்கப்பட்டன. அது அனுமானம், பயிற்சி அல்ல. இரண்டையும் கலந்திருந்தால், அது கலப்பு மண்டபத் தவறின் ஒரு சிறு வடிவமாக இருந்திருக்கும்.

என்ன தவறு நடக்கக்கூடும்?

• கொள்முதல் பிரிவு நான்கு சர்வர்களைத் தொடர்ந்து 'AI தரவு மையம்' என்று அழைத்துக்கொண்டிருக்கிறது. அந்தப் பெயர்ப்பலகை உள் கட்டமைப்பை மறைக்கிறது, மேலும் அடுத்ததாக அதே சீர்கெட்ட பகுதிக்கு இன்னும் அதிகமான GPU-க்கள் வாங்கப்படுகின்றன

• பின்புறக் கதவு வெப்பப் பரிமாற்றிகள் பொருத்தப்படுகின்றன, ஆனால் நீர்ப் பகுதியை யாரும் இயக்கத் தொடங்குவதில்லை. மின்விசிறிகள் இன்னமும் கூச்சலிடுகின்றன. கடிகாரங்கள் இன்னமும் கீழே இறங்குகின்றன

• இந்த ஃபேப்ரிக் என்பது உதிரிப் பாதை இல்லாத ஒற்றை ஸ்விட்ச் ஆகும். ஒரு இணைப்பு செயலிழந்தால், அந்த "கிளஸ்டர்" மீண்டும் நான்கு பணிநிலையங்களாக மாறிவிடும்

• NVMe பூல் "இரண்டாம் கட்டத்தில்" இருந்ததால், சோதனைச் சாவடிகள் SAN-இல் நிலைத்திருக்கின்றன. அடுத்த செயலிழந்த முனையத்திற்கு முன்பு இரண்டாம் கட்டம் வந்து சேர்வதில்லை

• அவர்கள் ஒரு கலப்பு அரங்கில் உள்ள இரண்டு ரேக்குகளுக்கு ஒரு PUE-ஐ மேற்கோள் காட்டுகிறார்கள். காலநிலை, எல்லை மற்றும் ERP வரிசையின் மீதமுள்ளவை அந்த விகிதத்தை ஒரு அலங்காரமாக ஆக்குகின்றன

• பயிற்சியும் சேவையும் ஒன்றோடொன்று இணைந்திருக்கின்றன. ஒரு சோதனைச் சாவடி வெள்ளம் தொழிற்சாலை உற்பத்தி வரிசையைக் காத்திருக்க வைக்கிறது. அங்கே விளைவு என்பது அடர்த்தி அல்ல, வால் தாமதம்தான்

• ஒரு நோட் செயலிழக்கும்போது, ​​யாரோ ஒருவர் அதை செக்பாயிண்ட் மறுதொடக்கம் என்பதற்குப் பதிலாக அப்டைம் டிக்கெட்டாகக் கருதுகிறார். என்டர்பிரைஸ் ஆப்ஸ் மற்றும் ஏஐ ஆப்ஸ் குழுக்கள் மதியம் முழுவதும் ஒருவருக்கொருவர் புரிந்துகொள்ளாமல் பேசிக்கொள்கின்றன

• அவர்கள் ஒரு கூண்டை வாடகைக்கு எடுத்திருக்கலாம், ஆனால் அந்தப் படங்கள் வெளியேற முடியாது. அந்தக் கட்டுப்பாட்டை மறந்துவிடுவது, அவர்களை ஒரு மேக உரையாடலுக்குள் தள்ளுகிறது, அதிலிருந்து அவர்கள் மீண்டு வர வேண்டியிருக்கும்

நடைமுறைப் பாடம்

இந்த வடிவத்தில் உள்ள ஒரு AI தரவு மையம் என்பது ஒரு கிடங்கும் அல்ல, அது ஒரு GPU ரசீதும் அல்ல. அது, முடுக்கிகள் தங்கள் ஓட்டத்தை முடிக்க அனுமதிக்கும் ஒரு கலம்: அவை தக்கவைத்துக் கொள்ளக்கூடிய ஆற்றல், வெளியேறும் வெப்பம், ஒரு கட்டமைப்பு, ஒரு சோதனைச் சாவடி, மற்றும் ஒரு ரேங்க் செயலிழக்கும்போது பொறுப்பேற்க ஒருவர். கெஸ்ட்ரலுக்கு ஒரு வளாகம் தேவைப்படவில்லை. பாசாங்கு செய்வதை நிறுத்த அவர்களுக்கு இரண்டு ரேக்குகள் தேவைப்பட்டன. பெரும்பாலான அணிகள் அந்த நடத்தையைக் கடைப்பிடிக்க வேண்டும். ஒரு சில அணிகள், ஒரு இரகசிய தரவுத்தொகுப்பு மற்றும் வெப்பத்தைத் தாங்கக்கூடிய ஒரு கூடம் ஆகியவற்றுடன், ஒரு கலத்தைக் கட்டி, அந்தச் சரிவை மறுக்க வேண்டும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

செயற்கை நுண்ணறிவு தரவு மையம் என்பது என்ன?

அதிக அடர்த்தி கொண்ட கணினித் தளம் என்பது, பொது நோக்க சேவையகங்களின் நேர்த்தியான வரிசைகளைக் கொண்டிராமல், இணையான பயிற்சி மற்றும் மாதிரி வழங்குதலை மையமாகக் கொண்டு மின்சாரம், குளிரூட்டல், வலையமைப்பு மற்றும் சேமிப்பகம் ஆகியவற்றை ஒருங்கே கொண்ட ஒரு தளமாகும். பெருமளவிலான முடுக்கிகள், உருகாமலும், வலையமைப்பில் தடைபடாமலும், அல்லது வட்டுக்காகக் காத்திருக்காமலும் மாதிரிகளுக்குப் பயிற்சி அளித்து அவற்றை வழங்கக்கூடிய வகையில் இது வடிவமைக்கப்பட்டுள்ளது. ஒரு சாதாரண நிறுவனக் கூடம் என்பது ஒரு கலவையான சூழலாகும். ஒரு செயற்கை நுண்ணறிவுக் கூடம் என்பது, GPU-க்கள் அல்லது TPU-வகை சில்லுகள் போன்ற முடுக்கியையே மதிப்பின் அலகாகக் கொண்ட ஒரு ஒற்றைப் பண்பாட்டுத் தளமாகும். அது பார்ப்பதற்கு ஒரு கிடங்கு போலவும், கணிதம் செய்யும் ஒரு மின் நிலையம் போலவும் செயல்படுகிறது.

ஒரு AI தரவு மையம், ஒரு சாதாரண தரவு மையத்திலிருந்து எவ்வாறு வேறுபடுகிறது?

பாரம்பரிய தரவு மையங்கள், கலவையான பணிச்சுமைகளையும் பல சிறிய சேவைகளின் இயக்க நேரத்தையும் உகந்ததாக்குகின்றன. செயற்கை நுண்ணறிவுத் தளங்கள் இந்த விகிதங்களைத் தலைகீழாக மாற்றுகின்றன: அடர்த்தி அதிகரிக்கிறது, பயிற்சிப் பணி தடையின்றி இயங்குவதற்கு வலையமைப்பு ஒரு கட்டமைப்பாக மாறுகிறது, மேலும் சேமிப்பகம் சோதனைச் சாவடிகளைத் தொடர்ந்து இயங்க வைக்க வேண்டும் அல்லது முடுக்கிச் சாதனங்கள் செயலற்று இருக்க வேண்டும். பெருநிறுவனச் செயல்பாடுகள் டிக்கெட்டுகள் மற்றும் மாற்றக் காலங்களைப் பற்றி சிந்திக்கின்றன. செயற்கை நுண்ணறிவுச் செயல்பாடுகள், பணி வரிசைகள் மற்றும் ஒரு நீண்ட செயல்பாட்டின் இறுதியில் ஒரு கணு செயலிழக்கும்போது ஏற்படும் சங்கடமான உணர்வைப் பற்றி சிந்திக்கின்றன. நீங்கள் இன்னும் இரண்டு தரவு மையங்களையும் அழைக்கலாம். அந்தப் பெயர் வெறும் உள் கட்டமைப்பை மறைக்கிறது.

செயற்கை நுண்ணறிவு தரவு மையங்கள் ஏன் இவ்வளவு மின்சாரத்தைப் பயன்படுத்துகின்றன?

தனித்துவமான வன்பொருள் என்பது ஒரு புத்திசாலித்தனமான CPU அல்ல. அது முடுக்கித் தட்டுதான்: GPU-க்கள் அல்லது பிற AI சிப்கள், சர்வர்களிலும், பின்னர் ரேக்குகளிலும், அதன்பின் அதிக அலைவரிசை கொண்ட ஒரு கட்டமைப்பைப் பகிர்ந்துகொள்ளும் வரிசைகளிலும் அடுக்கப்பட்டிருக்கும். ஒவ்வொரு ரேக்கின் அடர்த்திதான் இதில் உள்ள திருப்பம்: குறைவான ரேக்குகள், ஒவ்வொன்றும் ஒரு சிறிய உலை போல. ஒரு அரங்கம் நிரம்பியவுடன் மெகாவாட் அளவிலான தகவல் தொழில்நுட்பச் சுமை வெளிப்படுகிறது, இருப்பினும் ஒரு பொதுவான எண்ணைக் கற்பனை செய்வது வீண். வரம்புக்குட்படுத்தும் காரணி பெரும்பாலும் துணை மின்நிலையமே தவிர, GPU-க்களின் விருப்பப் பட்டியல் அல்ல.

செயற்கை நுண்ணறிவு தரவு மையங்கள் எவ்வாறு குளிர்விக்கப்படுகின்றன?

அதிக அடர்த்தி கொண்ட ரேக்குகள், காற்று இதுவரை கையாளாத ஒரு வழியில் வெப்பத்தை வெளியேற்றுகின்றன. பின்பக்க கதவு வெப்பப் பரிமாற்றிகள், அதிக வெப்பம் தரும் நடைபாதைகள் மற்றும் புத்திசாலித்தனமான கட்டுப்பாடு ஆகியவற்றின் மூலம் காற்றை இன்னும் தீவிரமாகச் செலுத்த முடியும். பிறகு திரவத்தின் பங்கு வருகிறது: சிப்புக்கு நேரடிக் குளிரூட்டல், குளிரூட்டிச் சுழற்சிகள், மற்றும் சில வடிவமைப்புகளில் முழுமையாக மூழ்கவைத்தல் போன்றவை. வேகத்தைக் குறைக்கும் ஒரு ஆக்சிலரேட்டர் என்பது, நீங்கள் ஏற்கெனவே பணம் கொடுத்து வாங்கியதும், முழுமையாகப் பயன்படுத்த முடியாததுமான ஒன்றாகும். PUE (பயன்பாட்டுத் திறன்) இன்னும் முக்கியமானது, ஏனெனில் விசிறிகள் மற்றும் பம்புகளுக்காகச் செலவிடப்படும் ஒவ்வொரு வாட்டும், GPU-க்குச் செல்லாத ஒரு வாட் ஆகும். இந்தக் கதையில் நீரும் இடம்பெறுகிறது: சில தாவரங்கள் நீரை உறிஞ்சிக் குடிக்கின்றன, சிலவோ மடமடவெனக் குடிக்கின்றன.

GPU-க்களைப் போலவே நெட்வொர்க்கிங்கும் ஏன் முக்கியத்துவம் பெறுகிறது?

பயிற்சி என்பது ஒரு உரையாடல்: ஆயிரக்கணக்கான முடுக்கிகள், கிரேடியன்ட்கள், அளவுருக்கள் மற்றும் ஒரு மாதிரியின் துண்டுகளை மிக நெருக்கமான ஒத்திசைவில் பரிமாறிக்கொள்கின்றன. அந்த வலைப்பின்னல் தடுமாறினால், முழு வேலையும் மிக மெதுவான இணைப்புக்காகக் காத்திருக்கும். அதனால்தான் செயற்கை நுண்ணறிவு மையங்கள், உயர் அலைவரிசை வலையமைப்பு, குறைந்த தாமதம், இன்ஃபினிபேண்ட் போன்ற வலைப்பின்னல்கள் அல்லது அதே பாத்திரத்தில் ஈதர்நெட், மற்றும் ஒரு இணைப்பு செயலிழக்கும்போது பாதியாக மடிந்துவிடாத கட்டமைப்பு ஆகியவற்றில் அதீத கவனம் செலுத்துகின்றன. ஊகித்தறிதல் என்பது இறுதிநிலைத் தாமதம், பல சிறிய கோரிக்கைகள் மற்றும் தனிமைப்படுத்தல் ஆகியவற்றில் அக்கறை கொள்கிறது. இந்தக் கட்டிடத்தில், குழாய் அமைப்பே உணவகம்.

செயற்கை நுண்ணறிவு தரவு மையம் எதற்குப் பயன்படுகிறது: பயிற்சிக்கா அல்லது அனுமானத்திற்கா?

பயிற்சி என்பது ஒரு பிரச்சாரம்: ஒரு கிளஸ்டரை உருவாக்கி, அதற்குத் தரவை அளித்து, தவறாமல் சோதனைச் சாவடிகளை அமைத்து, பல மணிநேரம் அல்லது வாரங்கள் இயக்குவது. அனுமானம் என்பது ஒரு கடை முகப்பு: ஏற்கனவே பயிற்சி பெற்ற மாதிரிகள், இப்போது குறிப்பிடத்தக்க தாமதத்துடன் பதிலளிக்கின்றன. பயிற்சி வளாகங்கள் சக்தி, நிலம் மற்றும் அடர்த்தியைத் தேடுகின்றன. அனுமானத் தளங்கள் தாமதம் மற்றும் இருப்பைத் தேடுகின்றன. மூலதனம் எல்லையற்றது அல்ல என்பதால் கலப்பின அரங்குகள் உள்ளன; சில நேரங்களில் ஒரு அரங்குடன் இரண்டு குளிரூட்டும் சுற்றுகளும் இருக்கும். வாடிக்கையாளருக்கு அருகிலுள்ள சற்றே பழைய முடுக்கி, ஒரு கண்டம் தொலைவில் உள்ள கவர்ச்சிகரமான ஒன்றை விஞ்சிவிடும்.

ஒரு AI தரவு மையத்தில் சேமிப்பகம் ஏன் முக்கியத்துவம் பெறுகிறது?

GPU-க்கள் திணறாத அளவுக்குப் பயிற்சித் தரவுகள் போதுமான வேகத்தில் வந்து சேர வேண்டும். ஒரு செயலிழப்பு ஒரு வாரத்தை வீணாக்காத வகையில், சரிபார்ப்புப் புள்ளிகள் (checkpoints) சரியாக நிறுவப்பட வேண்டும். ஒரு சேவைப் பிரதி (serving replica) நேரலைக்கு வருவதற்கு முன்பு, மாதிரி எடைகள் (Model weights) ஏற்றப்பட வேண்டும். சேமிப்பகத்தின் கொள்ளளவு மட்டுமல்ல, அதன் செயல் திறனும்தான் ஒரு மறைமுகமான முட்டுக்கட்டையாகும். நீங்கள் முடுக்கிகளுக்காக (accelerators) பெரும் தொகையைச் செலவழித்துவிட்டு, மெய்நிகர் இயந்திரங்களுக்காக (virtual machines) வடிவமைக்கப்பட்ட ஒரு நேர்த்தியான வரிசை (patline array) மூலம் அவற்றின் செயல்திறனைக் குறைக்கலாம்.

செயல்பாட்டின் நடுவில் ஒரு நோட் செயலிழந்தால் என்ன நடக்கும்?

இறுக்கமாகப் பிணைக்கப்பட்ட ஒரு பயிற்சிப் பணியில் உள்ள ஒரு செயலிழந்த முடுக்கி, முழு செயல்பாட்டையும் முடக்கிவிடும். பயிற்சிக்கு நேர்மறை நம்பிக்கை அல்ல, சரிபார்ப்புப் புள்ளிகளே தேவை. ஊகச் செயல்பாடு, செயலிழந்த முனையத்தின் ஆற்றலை உறிஞ்சி, அதன் பிரதியை பதிலளிக்க வைத்து, தொடர்ந்து இயங்க வைக்கிறது. உங்கள் கால அட்டவணையைப் பொருட்படுத்தாத பயிற்சிச் செயல்பாடுகளுடன், மாற்றத்திற்கான கால இடைவெளிகள் இன்னமும் மோதுகின்றன. ஆற்றல், குளிரூட்டல், பாதைகள் மற்றும் சேமிப்பகத்திற்கு மிகைப்பணி இன்னமும் முக்கியமானது, ஆனால் அதன் செயலிழப்பு முறையானது, பழைய 'ஒன்பது ஆண்டு இயக்க நேர' முறையை விட ஒழுங்கற்றதாக உள்ளது.

ஒரு செயற்கை நுண்ணறிவு தரவு மையம் மின் கட்டமைப்பு, நீர் மற்றும் அண்டை வீட்டார் மீது என்ன தாக்கத்தை ஏற்படுத்துகிறது?

மின் கட்டமைப்பு இணைப்புதான் பெரும்பாலும் உண்மையான இடத் தேர்வு செயல்முறையாகும். ஒரு துணை மின் நிலையம் மற்றும் பிற வாடிக்கையாளர்களைக் கொண்ட ஒரு பயன்பாட்டு நிறுவனத்துடன் ஒப்பிடும்போது நிலம் எளிதானது. குளிர்விப்பதற்காக நீங்கள் தண்ணீரைப் பயன்படுத்தினால், கடுமையான மழை பெய்தவுடன் அது ஒரு அண்டை வீட்டுப் பிரச்சனையாக மாறுகிறது; அதனுடன் இரைச்சல், பார்வைக்கு பிரம்மாண்டமாகத் தெரிவது, மற்றும் எல்லை வேலியில் ஏற்படும் வெப்பம் ஆகியவையும் சேர்கின்றன. மலிவான மின்சாரச் சந்தைகளிலும் குளிர்ச்சியான காலநிலைகளிலும் பயிற்சி மறைந்திருக்கலாம். அனுமானம் பயனர்களுக்கு அருகில் இருப்பதை விரும்புகிறது. சரியான இடம் என்று ஒன்று இல்லை. ஒரு பத்திரிக்கை வெளியீட்டின் மூலம் ஒரு சமரசம் ஏற்படுகிறது.

நான் ஒரு AI தரவு மையத்தை சொந்தமாக வைத்திருக்க வேண்டுமா, அல்லது வாடகைக்கு எடுக்க வேண்டுமா?

பெரும்பாலான மக்களுக்கு இந்த அரங்குகளில் ஒன்றைச் சொந்தமாக வைத்திருக்க வேண்டிய அவசியமில்லை. ஹைப்பர்ஸ்கேலர்கள் இவற்றை உருவாக்குகிறார்கள், ஏனெனில் அவர்களின் தயாரிப்புதான் இந்தத் தொகுப்பு. காத்திருப்பு நேரம் ஒரு தடையாக இருக்கும்போது அல்லது தரவு வெளியேற முடியாதபோது ஆய்வகங்கள் இவற்றை உருவாக்குகின்றன. ஒரு வங்கி, மருத்துவமனை, அரசாங்கம் அல்லது இரகசியத் தரவுத்தொகுப்பைக் கொண்ட ஒரு உற்பத்தியாளர், தங்களது வளாகத்திலேயே உள்ள கொலோகேஷனையோ அல்லது ஒரு தனியார் கொலோ கேஜையோ பயன்படுத்துவது பொருத்தமானதாக இருக்கும். மற்ற அனைவரும் வாடகைக்கு எடுக்க வேண்டும்: செயற்கை நுண்ணறிவுக்குத் தயாரான கொலோகேஷன், ஒரு கிளவுட் முன்பதிவு அல்லது ஒரு நிர்வகிக்கப்பட்ட கிளஸ்டர். நீங்கள் ஒரு மின் உற்பத்தி நிலைய இயக்குநராக மாறாமல், இந்த வேகவூக்கிகளைப் பெறுகிறீர்கள்.

குறிப்புகள்

1. ஐஇஏ - www.iea.org

2. LBNL - datacenters.lbl.gov

3. பசுமைக் கட்டம் - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. அப்டைம் இன்ஸ்டிடியூட் - journal.uptimeinstitute.com

7. என்விடியா - developer.nvidia.com

8. என்விடியா - docs.nvidia.com

9. என்விடியா - docs.nvidia.com

10. என்விடியா - docs.nvidia.com

11. கூகிள் கிளவுட் - docs.cloud.google.com

அதிகாரப்பூர்வ AI உதவியாளர் கடையில் சமீபத்திய AI ஐக் கண்டறியவும்

எங்களை பற்றி