சுருக்கமான பதில்: கிளவுட் கம்ப்யூட்டிங்கில் AI என்பது தரவைச் சேமிக்க, கம்ப்யூட் வாடகைக்கு எடுக்க, மாடல்களைப் பயிற்றுவிக்க, அவற்றை சேவைகளாகப் பயன்படுத்த மற்றும் உற்பத்தியில் அவற்றைக் கண்காணிக்க கிளவுட் தளங்களைப் பயன்படுத்துவது பற்றியது. பெரும்பாலான தோல்விகள் கணிதத்தைச் சுற்றி அல்ல, தரவு, வரிசைப்படுத்தல் மற்றும் செயல்பாடுகளைச் சுற்றியே இருப்பதால் இது முக்கியமானது. உங்களுக்கு விரைவான அளவிடுதல் அல்லது மீண்டும் மீண்டும் செய்யக்கூடிய வெளியீடுகள் தேவைப்பட்டால், கிளவுட் + எம்எல்ஓப்ஸ் என்பது நடைமுறை வழி.
முக்கிய குறிப்புகள்:
வாழ்க்கைச் சுழற்சி: நிலத் தரவு, கட்டமைப்பு அம்சங்கள், பயிற்சி, வரிசைப்படுத்தல், பின்னர் சறுக்கல், தாமதம் மற்றும் செலவு ஆகியவற்றைக் கண்காணித்தல்.
ஆளுகை: தொடக்கத்திலிருந்தே அணுகல் கட்டுப்பாடுகள், தணிக்கைப் பதிவுகள் மற்றும் சுற்றுச்சூழல் பிரிப்பு ஆகியவற்றை உருவாக்குதல்.
மறுஉருவாக்கம்: தரவு பதிப்புகள், குறியீடு, அளவுருக்கள் மற்றும் சூழல்களைப் பதிவுசெய்து, இயக்கங்கள் மீண்டும் மீண்டும் செய்யக்கூடியதாக இருக்கும்.
செலவுக் கட்டுப்பாடு: பில் அதிர்ச்சிகளைத் தவிர்க்க, பேட்சிங், கேச்சிங், ஆட்டோஸ்கேலிங் கேப்ஸ் மற்றும் ஸ்பாட்/முன்கூட்டியே பயிற்சி ஆகியவற்றைப் பயன்படுத்தவும்.
வரிசைப்படுத்தல் முறைகள்: குழு யதார்த்தத்தின் அடிப்படையில் நிர்வகிக்கப்பட்ட தளங்கள், லேக்ஹவுஸ் பணிப்பாய்வுகள், குபெர்னெட்ஸ் அல்லது RAG ஆகியவற்றைத் தேர்வுசெய்யவும்.
இதற்குப் பிறகு நீங்கள் படிக்க விரும்பக்கூடிய கட்டுரைகள்:
🔗 சிறந்த AI கிளவுட் வணிக மேலாண்மை கருவிகள்
செயல்பாடுகள், நிதி மற்றும் குழுக்களை நெறிப்படுத்தும் முன்னணி கிளவுட் தளங்களை ஒப்பிடுக.
🔗 பெரிய அளவிலான உற்பத்தி AI-க்குத் தேவையான தொழில்நுட்பங்கள்
GenAI-ஐப் பயன்படுத்துவதற்குத் தேவையான முக்கிய உள்கட்டமைப்பு, தரவு மற்றும் நிர்வாகம்.
🔗 தரவு பகுப்பாய்விற்கான இலவச AI கருவிகள்
தரவுத்தொகுப்புகளை சுத்தம் செய்தல், மாதிரியாக்குதல் மற்றும் காட்சிப்படுத்துதல் ஆகியவற்றிற்கான சிறந்த இலவச AI தீர்வுகள்.
🔗 ஒரு சேவையாக AI என்றால் என்ன?
AIaaS, நன்மைகள், விலை நிர்ணய மாதிரிகள் மற்றும் பொதுவான வணிக பயன்பாட்டு நிகழ்வுகளை விளக்குகிறது.
கிளவுட் கம்ப்யூட்டிங்கில் AI: எளிய வரையறை 🧠☁️
அதன் மையத்தில், கிளவுட் கம்ப்யூட்டிங்கில் AI என்பது கிளவுட் தளங்களைப் பயன்படுத்தி அணுகுவதைக் குறிக்கிறது:
-
கணினி ஆற்றல் (CPU-கள், GPU-கள், TPU-கள்) கூகிள் கிளவுட்: செயற்கை நுண்ணறிவுக்கான GPU-கள் கிளவுட் TPU ஆவணங்கள்
-
சேமிப்பகம் (தரவு ஏரிகள், கிடங்குகள், பொருள் சேமிப்பகம்) AWS: தரவு ஏரி என்றால் என்ன? AWS: தரவு கிடங்கு என்றால் என்ன? அமேசான் S3 (பொருள் சேமிப்பகம்)
-
செயற்கை நுண்ணறிவு சேவைகள் (மாதிரிப் பயிற்சி, நிறுவுதல், பார்வை, பேச்சு, இயற்கை மொழி செயலாக்கத்திற்கான API-கள்) AWS செயற்கை நுண்ணறிவு சேவைகள் கூகுள் கிளவுட் செயற்கை நுண்ணறிவு API-கள்
-
MLOps கருவிகள் (செயல்முறைகள், கண்காணிப்பு, மாதிரிப் பதிவகம், இயந்திரக் கற்றலுக்கான CI-CD) கூகிள் கிளவுட்: MLOps என்றால் என்ன? வெர்டெக்ஸ் AI மாதிரிப் பதிவகம்
உங்களுக்கென விலை உயர்ந்த உபகரணங்களை வாங்குவதற்குப் பதிலாக, உங்களுக்குத் தேவைப்படும்போது தேவையானதை வாடகைக்கு எடுக்கிறீர்கள் ( NIST SP 800-145). இது, உங்கள் கேரேஜில் ஒரு உடற்பயிற்சிக் கூடத்தைக் கட்டிவிட்டு, பிறகு மீண்டும் டிரெட்மில்லைப் பயன்படுத்தாமல் இருப்பதற்குப் பதிலாக, ஒரு தீவிரமான உடற்பயிற்சிக்காக ஒரு உடற்பயிற்சிக் கூடத்தை வாடகைக்கு எடுப்பதைப் போன்றது. இது நம்மில் சிறந்தவர்களுக்கும் நடக்கும் 😬
தெளிவாகச் சொல்வதானால்: இது கிளவுட் உள்கட்டமைப்பின் மூலம் அளவிடப்பட்டு, அனுப்பப்பட்டு, புதுப்பிக்கப்பட்டு, இயங்கும் ஒரு செயற்கை நுண்ணறிவு ஆகும் (NIST SP 800-145).
AI + கிளவுட் ஏன் இவ்வளவு பெரிய ஒப்பந்தம் 🚀
வெளிப்படையாகச் சொல்லப் போனால் - பெரும்பாலான AI திட்டங்கள் கணிதம் கடினமாக இருப்பதால் தோல்வியடைவதில்லை. "மாதிரியைச் சுற்றியுள்ள விஷயங்கள்" சிக்கலாகிவிடுவதால் அவை தோல்வியடைகின்றன:
-
தரவு சிதறிக்கிடக்கிறது
-
சூழல்கள் பொருந்தவில்லை
-
அந்த மாடல் வேறொருவரின் மடிக்கணினியில் வேலை செய்கிறது, ஆனால் வேறு எங்கும் இல்லை
-
பயன்படுத்தல் என்பது ஒரு பின் சிந்தனையாகவே கருதப்படுகிறது
-
பாதுகாப்பும் இணக்கமும் அழைக்கப்படாத உறவினரைப் போல தாமதமாகக் காண்பிக்கப்படுகின்றன 😵
கிளவுட் தளங்கள் உதவுகின்றன, ஏனெனில் அவை வழங்குகின்றன:
1) மீள் அளவுகோல் 📈
ஒரு பெரிய கிளஸ்டரில் ஒரு மாதிரியை சிறிது நேரம் பயிற்சி செய்யுங்கள், பின்னர் அதை NIST SP 800-145.
2) வேகமான பரிசோதனை ⚡
நிர்வகிக்கப்பட்ட குறிப்பேடுகள், முன்பே கட்டமைக்கப்பட்ட பைப்லைன்கள் மற்றும் GPU நிகழ்வுகளை விரைவாக சுழற்றுங்கள் Google Cloud: AIக்கான GPUகள்.
3) எளிதான வரிசைப்படுத்தல் 🌍
மாடல்களை API-கள், பேட்ச் ஜாப்கள் அல்லது உட்பொதிக்கப்பட்ட சேவைகளாகப் பயன்படுத்தவும். ரெட் ஹேட்: REST API என்றால் என்ன? சேஜ்மேக்கர் பேட்ச் டிரான்ஸ்ஃபார்ம்.
4) ஒருங்கிணைந்த தரவு சுற்றுச்சூழல் அமைப்புகள் 🧺
உங்கள் தரவு குழாய்வழிகள், கிடங்குகள் மற்றும் பகுப்பாய்வுகள் பெரும்பாலும் ஏற்கனவே மேகத்தில் வாழ்கின்றன AWS: தரவு கிடங்கு vs தரவு ஏரி.
5) ஒத்துழைப்பு மற்றும் நிர்வாகம் 🧩
அனுமதிகள், தணிக்கை பதிவுகள், பதிப்பு மற்றும் பகிரப்பட்ட கருவிகள் ஆகியவை (சில நேரங்களில் வேதனையாக, ஆனால் இன்னும்) Azure ML பதிவேடுகளில் (MLOps) சுடப்படுகின்றன .
கிளவுட் கம்ப்யூட்டிங்கில் AI எவ்வாறு நடைமுறையில் செயல்படுகிறது (உண்மையான ஓட்டம்) 🔁
இதோ பொதுவான வாழ்க்கைச் சுழற்சி. "சரியான வரைபடம்" பதிப்பு அல்ல... வாழ்ந்த ஒன்று.
படி 1: தரவு மேக சேமிப்பகத்தில் சேருகிறது 🪣
உதாரணங்கள்: பொருள் சேமிப்பு வாளிகள், தரவு ஏரிகள், கிளவுட் தரவுத்தளங்கள், அமேசான் S3 (பொருள் சேமிப்பு), AWS: தரவு ஏரி என்றால் என்ன?, கூகிள் கிளவுட் ஸ்டோரேஜ் கண்ணோட்டம்.
படி 2: தரவு செயலாக்கம் + அம்ச உருவாக்கம் 🍳
நீங்கள் அதை சுத்தம் செய்யலாம், மாற்றலாம், அம்சங்களை உருவாக்கலாம், ஒருவேளை அதை ஸ்ட்ரீம் செய்யலாம்.
படி 3: மாதிரி பயிற்சி 🏋️
கூகிள் கிளவுட்: AI க்கான GPUகளைப் பயிற்றுவிக்க நீங்கள் கிளவுட் கம்ப்யூட்டை (பெரும்பாலும் GPUகள்) பயன்படுத்துகிறீர்கள் :
-
கிளாசிக்கல் எம்எல் மாதிரிகள்
-
ஆழ்ந்த கற்றல் மாதிரிகள்
-
அடித்தள மாதிரி நுணுக்கங்கள்
-
மீட்டெடுப்பு அமைப்புகள் (RAG பாணி அமைப்புகள்) மீட்டெடுப்பு-வளர்ச்சியடைந்த தலைமுறை (RAG) தாள்
படி 4: வரிசைப்படுத்தல் 🚢
மாதிரிகள் பேக் செய்யப்பட்டு இதன் மூலம் வழங்கப்படுகின்றன:
-
REST APIகள் Red Hat: REST API என்றால் என்ன?
-
சர்வர்லெஸ் எண்ட்பாயிண்ட்ஸ் சேஜ்மேக்கர் சர்வர்லெஸ் இன்ஃபரன்ஸ்
-
குபெர்னெட்ஸ் கொள்கலன்கள் குபெர்னெட்ஸ்: கிடைமட்ட பாட் ஆட்டோஸ்கேலிங்
-
தொகுதி அனுமான பைப்லைன்கள் சேஜ்மேக்கர் தொகுதி உருமாற்றம் வெர்டெக்ஸ் AI தொகுதி கணிப்புகள்
படி 5: கண்காணிப்பு + புதுப்பிப்புகள் 👀
தடம்:
-
தாமதம்
-
துல்லிய சறுக்கல் சேஜ்மேக்கர் மாதிரி மானிட்டர்
-
தரவு சறுக்கல் வெர்டெக்ஸ் AI மாதிரி கண்காணிப்பு
-
ஒரு கணிப்புக்கான செலவு
-
"இது சாத்தியமே இல்லை..." என்று கிசுகிசுக்க வைக்கும் எட்ஜ் கேஸ்கள் 😭
அதுதான் இயந்திரம். வெறும் வரையறையாக அல்லாமல், இயக்கத்தில் இருக்கும் கிளவுட் கம்ப்யூட்டிங்கில் AI இதுதான்.
கிளவுட் கம்ப்யூட்டிங்கில் AI இன் நல்ல பதிப்பை உருவாக்குவது எது? ✅☁️🤖
நீங்கள் ஒரு "நல்ல" செயல்படுத்தலை விரும்பினால் (வெறும் பிரகாசமான டெமோ அல்ல), இவற்றில் கவனம் செலுத்துங்கள்:
அ) கவலைகளின் தெளிவான பிரிப்பு 🧱
-
தரவு அடுக்கு (சேமிப்பு, நிர்வாகம்)
-
பயிற்சி அடுக்கு (சோதனைகள், குழாய்வழிகள்)
-
பரிமாறும் அடுக்கு (APIகள், அளவிடுதல்)
-
கண்காணிப்பு அடுக்கு (அளவீடுகள், பதிவுகள், எச்சரிக்கைகள்) SageMaker மாதிரி கண்காணிப்பு
எல்லாம் ஒன்றாக கலக்கப்படும்போது, பிழைத்திருத்தம் உணர்ச்சி ரீதியான சேதமாக மாறும்.
B) இயல்புநிலையாக மீண்டும் உருவாக்கக்கூடிய தன்மை 🧪
ஒரு நல்ல அமைப்பு கையை அசைக்காமல், நீங்கள் கூற அனுமதிக்கிறது:
-
இந்த மாதிரியைப் பயிற்றுவித்த தரவு
-
குறியீட்டுப் பதிப்பு
-
ஹைப்பர் அளவுருக்கள்
-
சுற்றுச்சூழல்
பதில் “ம்ம், அது செவ்வாய்க்கிழமை ஓட்டம்னு நினைக்கிறேன்...” என்றால் நீங்கள் ஏற்கனவே சிக்கலில் இருக்கிறீர்கள் 😅
C) செலவு விழிப்புணர்வு வடிவமைப்பு 💸
கிளவுட் AI சக்தி வாய்ந்தது, ஆனால் உங்கள் வாழ்க்கைத் தேர்வுகளை கேள்விக்குள்ளாக்கும் ஒரு மசோதாவை தற்செயலாக உருவாக்குவதற்கான எளிதான வழியும் இதுதான்.
நல்ல அமைப்புகளில் பின்வருவன அடங்கும்:
-
ஆட்டோஸ்கேலிங் குபெர்னெட்ஸ்: கிடைமட்ட பாட் ஆட்டோஸ்கேலிங்
-
நிகழ்வு திட்டமிடல்
-
முடிந்தவரை ஸ்பாட்-ப்ரீஎம்ப்டபிள் விருப்பங்கள் அமேசான் EC2 ஸ்பாட் இன்ஸ்டன்ஸ்கள் கூகுள் கிளவுட் ப்ரீஎம்ப்டபிள் VMகள்
-
கேச்சிங் மற்றும் பேட்சிங் அனுமானம் SageMaker பேட்ச் டிரான்ஸ்ஃபார்ம்
D) பாதுகாப்பு மற்றும் இணக்கம் 🔐 உடன் இணைக்கப்பட்டுள்ளது
கசிவு உள்ள குழாயில் டக்ட் டேப் போல பின்னர் போல்ட் செய்யப்படவில்லை.
E) முன்மாதிரியிலிருந்து உற்பத்திக்கு ஒரு உண்மையான பாதை 🛣️
இதுதான் மிக முக்கியமான விஷயம். கிளவுடில் உள்ள ஒரு நல்ல செயற்கை நுண்ணறிவுப் பதிப்பில், தொடக்கத்திலிருந்தே MLOps, செயல்படுத்தும் முறைகள் மற்றும் கண்காணிப்பு ஆகியவை அடங்கியிருக்க வேண்டும் (கூகிள் கிளவுட்: MLOps என்றால் என்ன?). இல்லையெனில், அது ஒரு பகட்டான விலைப்பட்டியலுடன் கூடிய அறிவியல் கண்காட்சித் திட்டம் போல ஆகிவிடும்.
ஒப்பீட்டு அட்டவணை: பிரபலமான AI-இன்-கிளவுட் விருப்பங்கள் (மற்றும் அவை யாருக்கானவை) 🧰📊
கீழே ஒரு சிறிய, சற்று கருத்துள்ள அட்டவணை உள்ளது. விலைகள் வேண்டுமென்றே பரந்த அளவில் உள்ளன, ஏனெனில் கிளவுட் விலை நிர்ணயம் என்பது காபியை ஆர்டர் செய்வது போன்றது - அடிப்படை விலை ஒருபோதும் விலையாக இருக்காது 😵💫
| கருவி / தளம் | பார்வையாளர்கள் | விலை அதிகம் | இது ஏன் வேலை செய்கிறது (வினோதமான குறிப்புகள் சேர்க்கப்பட்டுள்ளன) |
|---|---|---|---|
| AWS சேஜ்மேக்கர் | எம்எல் குழுக்கள், நிறுவனங்கள் | கட்டணச் சலுகை | முழு அடுக்கு ML தளம் - பயிற்சி, இறுதிப் புள்ளிகள், பைப்லைன்கள். சக்திவாய்ந்தது, ஆனால் எல்லா இடங்களிலும் மெனுக்கள். |
| கூகிள் வெர்டெக்ஸ் AI | எம்.எல் குழுக்கள், தரவு அறிவியல் அமைப்புகள் | கட்டணச் சலுகை | வலுவான நிர்வகிக்கப்பட்ட பயிற்சி + மாதிரி பதிவேடு + ஒருங்கிணைப்புகள். கிளிக் செய்யும்போது மென்மையாக இருக்கும். |
| அசூர் இயந்திர கற்றல் | நிறுவனங்கள், MS-மையப்படுத்தப்பட்ட நிறுவனங்கள் | கட்டணச் சலுகை | Azure சுற்றுச்சூழல் அமைப்புடன் நன்றாக வேலை செய்கிறது. நல்ல நிர்வாக விருப்பங்கள், நிறைய கைப்பிடிகள். |
| டேட்டாபிரிக்ஸ் (எம்எல் + லேக்ஹவுஸ்) | தரவு பொறியியல் கனரக குழுக்கள் | சந்தா + பயன்பாடு | டேட்டா பைப்லைன்கள் + எம்.எல் ஆகியவற்றை ஒரே இடத்தில் கலக்க சிறந்தது. பெரும்பாலும் நடைமுறை குழுக்களால் விரும்பப்படுகிறது. |
| ஸ்னோஃப்ளேக் AI அம்சங்கள் | பகுப்பாய்வு-முதல் நிறுவனங்கள் | பயன்பாடு சார்ந்தது | உங்கள் உலகம் ஏற்கனவே ஒரு கிடங்கில் இருக்கும்போது நல்லது. குறைவான "ML ஆய்வகம்", அதிக "SQL-ish இல் AI" |
| ஐபிஎம் வாட்சன்க்ஸ் | ஒழுங்குபடுத்தப்பட்ட தொழில்கள் | நிறுவன விலை நிர்ணயம் | நிர்வாகம் மற்றும் நிறுவனக் கட்டுப்பாடுகள் ஒரு பெரிய கவனம். பெரும்பாலும் கொள்கை சார்ந்த அமைப்புகளுக்குத் தேர்ந்தெடுக்கப்படுகின்றன. |
| நிர்வகிக்கப்பட்ட குபெர்னெட்ஸ் (DIY ML) | தளப் பொறியாளர்கள் | மாறி | நெகிழ்வான மற்றும் தனிப்பயனாக்கப்பட்ட. மேலும்... அது உடையும் போது ஏற்படும் வலி உங்களுக்கு சொந்தமானது 🙃 |
| சர்வர்லெஸ் அனுமானம் (செயல்பாடுகள் + இறுதிப் புள்ளிகள்) | தயாரிப்பு குழுக்கள் | பயன்பாடு சார்ந்தது | கூர்மையான போக்குவரத்திற்கு சிறந்தது. பருந்து போல குளிர் தொடக்கங்களையும் தாமதத்தையும் பாருங்கள். |
இது "சிறந்ததை" தேர்ந்தெடுப்பது பற்றியது அல்ல - இது உங்கள் அணியின் யதார்த்தத்துடன் பொருந்துவது பற்றியது. அதுதான் அமைதியான ரகசியம்.
கிளவுட் கம்ப்யூட்டிங்கில் AI-க்கான பொதுவான பயன்பாட்டு வழக்குகள் (எடுத்துக்காட்டுகளுடன்) 🧩✨
AI-இன்-கிளவுட் அமைப்புகள் சிறந்து விளங்கும் இடம் இங்கே:
1) வாடிக்கையாளர் ஆதரவு ஆட்டோமேஷன் 💬
-
அரட்டை உதவியாளர்கள்
-
டிக்கெட் ரூட்டிங்
-
சுருக்கம்
-
உணர்வு மற்றும் நோக்கத்தைக் கண்டறிதல் கிளவுட் நேச்சுரல் லாங்குவேஜ் API
2) பரிந்துரை அமைப்புகள் 🛒
-
தயாரிப்பு பரிந்துரைகள்
-
உள்ளடக்க ஊட்டங்கள்
-
"மக்கள் இதையும் வாங்கினர்"
இவற்றுக்கு பெரும்பாலும் விரிவாக்கக்கூடிய அனுமானமும், நிகழ்நேரத்திற்கு அருகிலான புதுப்பிப்புகளும் தேவைப்படுகின்றன.
3) மோசடி கண்டறிதல் மற்றும் ஆபத்து மதிப்பீடு 🕵️
மேகம் வெடிப்புகளைக் கையாள்வதையும், நிகழ்வுகளை ஸ்ட்ரீம் செய்வதையும், குழுமங்களை இயக்குவதையும் எளிதாக்குகிறது.
4) ஆவண நுண்ணறிவு 📄
-
OCR குழாய்கள்
-
நிறுவனப் பிரித்தெடுத்தல்
-
ஒப்பந்த பகுப்பாய்வு
-
ஸ்னோஃப்ளேக் கோர்டெக்ஸ் AI செயல்பாடுகள் பல நிறுவனங்களில், நேரம் அமைதியாகத் திருப்பித் தரப்படும் இடம் இதுதான்.
5) முன்னறிவிப்பு மற்றும் திறன் சார்ந்த தேர்வுமுறை 📦
தேவை முன்னறிவிப்பு, சரக்கு திட்டமிடல், வழி மேம்படுத்தல். தரவு பெரியதாகவும், மறுபயிற்சி அடிக்கடி நடைபெறுவதாலும் மேகம் உதவுகிறது.
6) ஜெனரேட்டிவ் AI பயன்பாடுகள் 🪄
-
உள்ளடக்க வரைவு
-
குறியீட்டு உதவி
-
உள் அறிவு பாட்கள் (RAG)
-
செயற்கை தரவு உருவாக்கம், மீட்டெடுப்பு-மேம்படுத்தப்பட்ட உருவாக்கம் (RAG) ஆய்வறிக்கை.
இந்தத் தருணத்தில்தான் நிறுவனங்கள் இறுதியாக, “எங்கள் தரவு அணுகல் விதிகள் எங்கே இருக்கின்றன என்பதை நாங்கள் தெரிந்துகொள்ள வேண்டும்” என்று கூறுகின்றன. 😬
நீங்கள் எல்லா இடங்களிலும் காணக்கூடிய கட்டிடக்கலை வடிவங்கள் 🏗️
பேட்டர்ன் 1: நிர்வகிக்கப்பட்ட ML பிளாட்ஃபார்ம் ("எங்களுக்கு குறைவான தலைவலி வேண்டும்" என்ற வழி) 😌
-
தரவைப் பதிவேற்று
-
நிர்வகிக்கப்பட்ட வேலைகளுடன் பயிற்சி
-
நிர்வகிக்கப்பட்ட முனைப்புள்ளிகளுக்குப் பயன்படுத்து
-
பிளாட்ஃபார்ம் டாஷ்போர்டுகளில் கண்காணிக்கவும் சேஜ்மேக்கர் மாடல் மானிட்டர் வெர்டெக்ஸ் ஏஐ மாடல் மானிட்டரிங்
வேகம் முக்கியமானதாக இருக்கும்போது நன்றாக வேலை செய்கிறது, மேலும் நீங்கள் புதிதாக உள் கருவிகளை உருவாக்க விரும்பவில்லை.
பேட்டர்ன் 2: லேக்ஹவுஸ் + எம்எல் ("தரவு-முதல்" வழி) 🏞️
-
தரவு பொறியியல் + ML பணிப்பாய்வுகளை ஒருங்கிணைக்கவும்
-
தரவுகளுக்கு அருகில் குறிப்பேடுகள், குழாய்வழிகள், அம்ச பொறியியல் ஆகியவற்றை இயக்கவும்
-
பெரிய பகுப்பாய்வு அமைப்புகளில் ஏற்கனவே வாழும் நிறுவனங்களுக்கு வலுவானது டேட்டாபிரிக்ஸ் லேக்ஹவுஸ்
பேட்டர்ன் 3: குபெர்னெட்டஸில் கண்டெய்னரைஸ் செய்யப்பட்ட எம்.எல் ("நாங்கள் கட்டுப்பாட்டை விரும்புகிறோம்" பாதை) 🎛️
-
கொள்கலன்களில் பொட்டல மாதிரிகள்
-
ஆட்டோஸ்கேலிங் கொள்கைகளுடன் அளவிடுதல் குபெர்னெட்ஸ்: கிடைமட்ட பாட் ஆட்டோஸ்கேலிங்
-
சேவை வலை, கவனிக்கத்தக்க தன்மை, ரகசியங்களை ஒருங்கிணைத்தல்
"நாங்கள் நம்பிக்கையுடன் இருக்கிறோம், மேலும் சில நேரங்களில் பிழைத்திருத்தத்தை விரும்புகிறோம்" என்றும் அழைக்கப்படுகிறது
முறை 4: RAG (மீட்டெடுப்பு-வளர்ச்சியடைந்த தலைமுறை) ("உங்கள் அறிவைப் பயன்படுத்துங்கள்" வழி) 📚🤝
-
மேகக்கணி சேமிப்பகத்தில் உள்ள ஆவணங்கள்
-
உட்பொதிப்புகள் + வெக்டர் சேமிப்பு
-
மீட்டெடுப்பு அடுக்கு ஒரு மாதிரிக்கு சூழலை ஊட்டுகிறது
-
பாதுகாப்புத் தண்டவாளங்கள் + அணுகல் கட்டுப்பாடு + பதிவு செய்தல் மீட்டெடுப்பு-வளர்ச்சி பெற்ற தலைமுறை (RAG) தாள்
நவீன AI-இன்-கிளவுட் உரையாடல்களில் இது ஒரு முக்கிய பகுதியாகும், ஏனெனில் இது எத்தனை உண்மையான வணிகங்கள் ஜெனரேட்டிவ் AI-ஐ பாதுகாப்பாகப் பயன்படுத்துகின்றன என்பதைப் பொறுத்தது.
MLOps: எல்லோரும் குறைத்து மதிப்பிடும் பகுதி 🧯
கிளவுடில் உள்ள AI, உற்பத்திச் சூழலில் சரியாகச் செயல்பட வேண்டுமென்றால், உங்களுக்கு MLOps தேவை. அது ஒரு நவநாகரீகப் போக்கு என்பதால் அல்ல - ஏனெனில் மாடல்கள் மாறுபடுகின்றன, தரவுகள் மாறுகின்றன, மேலும் பயனர்கள் மிக மோசமான வழிகளில் படைப்பாற்றல் மிக்கவர்களாக இருக்கிறார்கள் . கூகிள் கிளவுட்: MLOps என்றால் என்ன?
முக்கிய பகுதிகள்:
-
சோதனை கண்காணிப்பு: எது பலனளித்தது, எது பலனளிக்கவில்லை MLflow கண்காணிப்பு
-
மாதிரிப் பதிவகம்: அங்கீகரிக்கப்பட்ட மாதிரிகள், பதிப்புகள், மெட்டாடேட்டா எம்எல்ஃப்ளோ மாதிரிப் பதிவகம் வெர்டெக்ஸ் ஏஐ மாதிரிப் பதிவகம்
-
இயந்திர கற்றலுக்கான CI-CD: சோதனை மற்றும் வரிசைப்படுத்தல் தானியக்கம் கூகிள் கிளவுட் MLOps (CD & தானியக்கம்)
-
அம்சக் கடை: பயிற்சி மற்றும் அனுமானம் முழுவதும் நிலையான அம்சங்கள் SageMaker அம்சக் கடை
-
கண்காணிப்பு: செயல்திறன் விலகல், சார்பு சமிக்ஞைகள், தாமதம், செலவு சேஜ்மேக்கர் மாடல் மானிட்டர் வெர்டெக்ஸ் ஏஐ மாடல் மானிட்டரிங்
-
திரும்பப் பெறும் உத்தி: ஆம், வழக்கமான மென்பொருளைப் போலவே.
இதைப் புறக்கணித்தால், நீங்கள் ஒரு "மாடல் மிருகக்காட்சிசாலையை" 🦓 பெறுவீர்கள், அங்கு எல்லாம் உயிருடன் இருக்கும், எதுவும் பெயரிடப்படவில்லை, மேலும் நீங்கள் கேட்டைத் திறக்க பயப்படுவீர்கள்.
பாதுகாப்பு, தனியுரிமை மற்றும் இணக்கம் (வேடிக்கையான பகுதி அல்ல, ஆனால்... ஆம்) 🔐😅
கிளவுட் கம்ப்யூட்டிங்கில் AI சில காரமான கேள்விகளை எழுப்புகிறது:
தரவு அணுகல் கட்டுப்பாடு 🧾
பயிற்சித் தரவை யார் அணுகலாம்? அனுமானப் பதிவுகள்? அறிவுறுத்தல்கள்? வெளியீடுகள்?
குறியாக்கம் மற்றும் ரகசியங்கள் 🗝️
விசைகள், டோக்கன்கள் மற்றும் சான்றுகளை முறையாகக் கையாள வேண்டும். "ஒரு கட்டமைப்பு கோப்பில்" என்பது கையாளுதல் அல்ல.
தனிமைப்படுத்தல் மற்றும் குத்தகை 🧱
சில orgs-களுக்கு டெவலப், ஸ்டேஜிங், தயாரிப்பு ஆகியவற்றிற்கு தனித்தனி சூழல்கள் தேவைப்படுகின்றன. கிளவுட் உதவுகிறது - ஆனால் நீங்கள் அதை சரியாக அமைத்தால் மட்டுமே.
தணிக்கைத்திறன் 📋
ஒழுங்குபடுத்தப்பட்ட அமைப்புகள் பெரும்பாலும் காட்ட வேண்டியவை:
-
என்ன தரவு பயன்படுத்தப்பட்டது?
-
முடிவுகள் எப்படி எடுக்கப்பட்டன?
-
யார் எதைப் பயன்படுத்தினார்கள்?
-
IBM watsonx.governance-ஐ மாற்றியபோது
மாதிரி இடர் மேலாண்மை ⚠️
இதில் அடங்கும்:
-
சார்பு சோதனைகள்
-
எதிர் சோதனை
-
உடனடி ஊசி பாதுகாப்புகள் (உருவாக்கும் AIக்கு)
-
பாதுகாப்பான வெளியீட்டு வடிகட்டுதல்
இவை அனைத்தும் மீண்டும் புள்ளியை நோக்கிச் செல்கின்றன: இது "ஆன்லைனில் ஹோஸ்ட் செய்யப்பட்ட AI" மட்டுமல்ல. இது உண்மையான கட்டுப்பாடுகளின் கீழ் இயக்கப்படும் AI ஆகும்.
செலவு மற்றும் செயல்திறன் குறிப்புகள் (எனவே நீங்கள் பின்னர் அழ வேண்டாம்) 💸😵💫
போரில் சோதிக்கப்பட்ட சில குறிப்புகள்:
-
தேவையைப் பூர்த்தி செய்யும் மிகச்சிறிய மாடலைப் பயன்படுத்துங்கள்.
பெரியது எப்போதும் சிறந்தது அல்ல. சில நேரங்களில், அது வெறுமனே பெரியதாக இருக்கும். -
முடிந்தால் தொகுதி அனுமானம்
மலிவான மற்றும் திறமையான SageMaker தொகுதி மாற்றம். -
குறிப்பாக மீண்டும் மீண்டும் வினவல்கள் மற்றும் உட்பொதித்தல்களுக்கு ஆக்ரோஷமாக தற்காலிக சேமிப்பு
-
தானாக அளவை மாற்றுங்கள், ஆனால் அதற்குக் கட்டுப்பாடு விதியுங்கள்.
வரம்பற்ற அளவிடுதல் என்பது வரம்பற்ற செலவினத்தைக் குறிக்கலாம். குபெர்னெட்டஸ்: கிடைமட்ட பாட் தானியங்கு அளவிடுதல். இது எனக்கு எப்படித் தெரியும் என்று கேளுங்கள்... உண்மையைச் சொன்னால், கேட்காதீர்கள் 😬 -
ஒவ்வொரு எண்ட்பாயிண்ட் மற்றும் ஒவ்வொரு அம்சத்திற்குமான செலவைக் கண்காணிக்கவும்.
இல்லையெனில், நீங்கள் தவறான விஷயத்தை மேம்படுத்திவிடுவீர்கள். -
பயிற்சிக்காக ஸ்பாட்-ப்ரீஎம்ப்டபிள் கம்ப்யூட்டைப் பயன்படுத்துங்கள்.
உங்கள் பயிற்சிப் பணிகள் குறுக்கீடுகளைத் தாங்க முடிந்தால் பெரும் சேமிப்பு கிடைக்கும். அமேசான் EC2 ஸ்பாட் இன்ஸ்டன்ஸ்கள். கூகுள் கிளவுட் ப்ரீஎம்ப்டபிள் VM-கள்.
மக்கள் செய்யும் தவறுகள் (புத்திசாலித்தனமான அணிகள் கூட) 🤦♂️
-
கிளவுட் AI ஐ "ஒரு மாதிரியை செருகவும்" என்று கருதுதல்
-
கடைசி நிமிடம் வரை தரவு தரத்தை புறக்கணித்தல்
-
SageMaker மாதிரி மானிட்டரைக் கண்காணிக்காமல் ஒரு மாதிரியை அனுப்புதல்
-
கேடன்ஸை மீண்டும் பயிற்சி செய்யத் திட்டமிடவில்லை கூகிள் கிளவுட்: MLOps என்றால் என்ன?
-
வெளியீட்டு வாரம் வரை பாதுகாப்பு குழுக்கள் இருப்பதை மறந்துவிட்டேன் 😬
-
முதல் நாளிலிருந்தே அதிகப்படியான பொறியியல் (சில நேரங்களில் ஒரு எளிய அடிப்படை வெற்றி பெறும்)
மேலும், அமைதியான மிருகத்தனமான ஒன்று: பயனர்கள் தாமதத்தை எவ்வளவு வெறுக்கிறார்கள் என்பதை அணிகள் குறைத்து மதிப்பிடுகின்றன. சற்று குறைவான துல்லியமான ஆனால் வேகமான மாதிரி பெரும்பாலும் வெற்றி பெறுகிறது. மனிதர்கள் பொறுமையற்றவர்கள் சிறிய அற்புதங்கள்.
முக்கிய குறிப்புகள் 🧾✅
கிளவுட் கம்ப்யூட்டிங்கில் செயற்கை நுண்ணறிவு என்பது கிளவுட் உள்கட்டமைப்பைப் பயன்படுத்தி செயற்கை நுண்ணறிவை உருவாக்குதல் மற்றும் இயக்குதல் ஆகியவற்றின் முழுமையான நடைமுறையாகும் - இதில் பயிற்சியை அளவிடுதல், வரிசைப்படுத்தலை எளிதாக்குதல், தரவுப் பாதைகளை ஒருங்கிணைத்தல், மற்றும் MLOps, பாதுகாப்பு, மற்றும் ஆளுகை ஆகியவற்றைக் கொண்டு மாதிரிகளைச் செயல்பாட்டுக்குக் கொண்டுவருதல் ஆகியவை அடங்கும். கூகிள் கிளவுட்: MLOps என்றால் என்ன? NIST SP 800-145.
விரைவான சுருக்கம்:
-
கிளவுட், செயற்கை நுண்ணறிவை (AI) விரிவுபடுத்தவும் மற்றும் வெளியிடவும் தேவையான உள்கட்டமைப்பை வழங்குகிறது 🚀 NIST SP 800-145
-
முடிவுகளை தானியங்குபடுத்தும் "மூளைகளை" மேகப் பணிச்சுமைகளுக்கு AI வழங்குகிறது 🤖
-
மாயாஜாலம் என்பது வெறும் பயிற்சியில் மட்டுமல்ல - அது செயல்படுத்துதல், கண்காணித்தல் மற்றும் நிர்வகித்தல் ஆகியவற்றிலும் அடங்கியுள்ளது 🧠🔐 சேஜ்மேக்கர் மாடல் மானிட்டர்
-
மார்க்கெட்டிங் மூடுபனியை அல்ல, குழுவின் தேவைகளின் அடிப்படையில் தளங்களைத் தேர்ந்தெடுக்கவும் 📌
-
செலவுகளையும் செயல்பாடுகளையும் கண்ணாடி அணிந்த பருந்து போலப் பாருங்கள் 🦅👓 (மோசமான உருவகம், ஆனால் உங்களுக்குப் புரியும்)
“கிளவுட் கம்ப்யூட்டிங்கில் உள்ள AI என்பது வெறும் ஒரு மாதிரி API தான்” என்று நினைத்து நீங்கள் இங்கு வந்திருந்தால், இல்லை - அது ஒரு முழுமையான சூழலமைப்பு. சில நேரங்களில் நேர்த்தியாகவும், சில நேரங்களில் கொந்தளிப்பாகவும், சில நேரங்களில் ஒரே பிற்பகலில் இரண்டுமாகவும் இருக்கும்.
நிஜ உலக உதாரணம்: கிளவுட் AI ஆதரவு-டிக்கெட் வகைப்படுத்தும் உதவியாளரை உருவாக்குதல் 🎫☁️
சூழ்நிலை
40 பணியாளர்களைக் கொண்ட ஒரு SaaS நிறுவனம் வாரத்திற்குச் சுமார் 180 வாடிக்கையாளர் ஆதரவு டிக்கெட்டுகளைப் பெறுவதாகக் கற்பனை செய்து பாருங்கள். ஆதரவுக் குழு ஒரு ஹெல்ப் டெஸ்க் கருவியைப் பயன்படுத்துகிறது, ஆனாலும் ஒவ்வொரு திங்கட்கிழமை காலையிலும் யாராவது ஒருவர் புதிய டிக்கெட்டுகளைப் படித்து, அதன் வகையைத் தீர்மானித்து, அவசர நிலையை நிர்ணயித்து, வாடிக்கையாளர் கட்டணத் திட்டத்தில் இருக்கிறாரா என்று சரிபார்த்து, அந்தப் பிரச்சினையை பில்லிங், தயாரிப்பு, பொறியியல் அல்லது பொது ஆதரவுப் பிரிவுகளுக்குப் பரிந்துரைக்க வேண்டியுள்ளது.
நிறுவனத்திற்கு ஒரு பிரம்மாண்டமான செயற்கை நுண்ணறிவு அமைப்பு தேவையில்லை. டிக்கெட்டுகளை வகைப்படுத்தவும், சிக்கலைச் சுருக்கமாகக் கூறவும், அடுத்தகட்ட நடவடிக்கையைப் பரிந்துரைக்கவும், மேலும் அபாயகரமான நிகழ்வுகளை மனித மதிப்பாய்விற்காகக் கொடியிடவும் கூடிய ஒரு சிறிய கிளவுட் செயற்கை நுண்ணறிவு பணிப்பாய்வு அதற்குத் தேவை.
ஒரு நடைமுறை அமைப்பு இதுபோன்று இருக்கலாம்:
ஒவ்வொரு மணி நேரமும் டிக்கெட்டுகள் கிளவுட் ஸ்டோரேஜுக்கு ஏற்றுமதி செய்யப்படுகின்றன
ஒரு சர்வர்லெஸ் பணி, டிக்கெட் உரையைச் சுத்தப்படுத்தி, தேவையற்ற தனிப்பட்ட தரவுகளை நீக்குகிறது
ஒரு வகைப்படுத்தல் மாதிரி அல்லது ஹோஸ்ட் செய்யப்பட்ட மொழி மாதிரி டிக்கெட்டைக் குறிக்கிறது
முடிவுகள் உதவி மைய அமைப்பில் மீண்டும் பதியப்படுகின்றன
ஒரு டாஷ்போர்டு தாமதம், நம்பகத்தன்மை மதிப்பெண்கள், வழித்தடத் துல்லியம் மற்றும் ஒரு டிக்கெட்டிற்கான செலவு ஆகியவற்றைக் கண்காணிக்கிறது
முக்கியமான விஷயம்: செயற்கை நுண்ணறிவு, ஆதரவுக் குழுவிற்கு மாற்றாக வரவில்லை. அது, திரும்பத் திரும்பச் செய்யப்படும் வகைப்படுத்தும் பணிகளைக் குறைப்பதால், மனிதர்கள் உண்மையான சிக்கலைத் தீர்ப்பதில் அதிக நேரத்தைச் செலவிட முடிகிறது.
உதவியாளருக்கு என்ன தேவை
இது சிறப்பாகச் செயல்பட, குழுவினர் பின்வருவனவற்றைத் தயார் செய்ய வேண்டும்:
கட்டணம், உள்நுழைவு, பிழை, அம்சக் கோரிக்கை, ரத்துசெய்தல், பாதுகாப்பு மற்றும் பொது போன்ற டிக்கெட் வகைகளின் பட்டியல்
ஒவ்வொரு வகைக்கும் 20-50 உண்மையான கடந்தகால டிக்கெட்டுகளின் எடுத்துக்காட்டுகள்
ஒவ்வொரு துறைக்குமான விதிகள்
“பாதுகாப்புச் சிக்கல் = அவசரம்” அல்லது “நிறுவன வாடிக்கையாளர் செயலிழப்பு = அவசரம்” போன்ற முன்னுரிமை விதிகள்
பணம் திரும்பத் தருவதாக வாக்குறுதி அளிப்பது, சட்டரீதியான தவறை ஒப்புக்கொள்வது அல்லது கணக்கு அமைப்புகளை மாற்றுவது போன்ற, உதவியாளர் ஒருபோதும் செய்யக்கூடாத செயல்களின் ஒரு சிறு பட்டியல்
அணுகல் கட்டுப்பாடுகள் மூலம், AI பணிப்பாய்வு அதற்கு உண்மையிலேயே தேவைப்படும் டிக்கெட் புலங்களை மட்டுமே பார்க்கிறது
நிச்சயமற்ற நேர்வுகளுக்கான ஒரு மாற்று விதி
ஒரு எளிய மாற்று விதியாக இது இருக்கலாம்:
நம்பகத்தன்மை 80% க்கும் குறைவாக இருந்தால், அல்லது அந்தப் புகாரில் சட்டம், பாதுகாப்பு, பணம் திரும்பப் பெறுதல், ரத்து செய்தல், தரவு மீறல், அல்லது மருத்துவ/நிதி ரீதியான பாதிப்பு ஆகியவை குறிப்பிடப்பட்டிருந்தால், அதைத் தானாக வழிப்படுத்துவதற்குப் பதிலாக ஒரு மனித மதிப்பாய்வாளருக்கு அனுப்பவும்.
எடுத்துக்காட்டு அறிவுறுத்தல்
நீங்கள் ஒரு B2B SaaS நிறுவனத்தின் ஆதரவு-டிக்கெட் வகைப்படுத்தும் உதவியாளர்.
வாடிக்கையாளர் செய்தியைப் படித்துவிட்டுத் திருப்பி அனுப்பவும்:
-
பிரச்சினையின் ஒரு வாக்கியச் சுருக்கம்
-
இந்தப் பட்டியலிலிருந்து ஒரு வகை: கட்டணம், உள்நுழைவு, பிழை, அம்சக் கோரிக்கை, ரத்துசெய்தல், பாதுகாப்பு, பொது
-
முன்னுரிமை: குறைவு, நடுத்தரம், அதிகம், அல்லது அவசரம்
-
இதைச் சமாளிக்க சிறந்த குழு: ஆதரவு, கட்டணப் பட்டியல், தயாரிப்பு, பொறியியல், பாதுகாப்பு அல்லது வாடிக்கையாளர் வெற்றி
-
மனித மதிப்பாய்வு தேவையா: ஆம் அல்லது இல்லை
-
உங்கள் முடிவிற்கான ஒரு சுருக்கமான காரணம்
விதிகள்:
பணம் திரும்பத் தருவதாக வாக்குறுதி அளிக்காதீர்கள்.
சட்ட அல்லது பாதுகாப்புப் பொறுப்பைக் கண்டறியாதீர்கள்.
கணக்கு விவரங்களைத் திரித்துக் கூறாதீர்கள்.
செய்தி தெளிவாக இல்லை என்றால், 'பொது' என்பதைத் தேர்ந்தெடுத்து, மனித மதிப்பாய்வைக் கோருங்கள்.
வாடிக்கையாளர் தரவு கசிவு, கணக்கு அபகரிப்பு, பணம் செலுத்துவதில் தோல்வி அல்லது சேவைத் தடை ஆகியவற்றைக் குறிப்பிட்டால், மனித மதிப்பாய்வைக் கோருங்கள்.
அதை எப்படி சோதிப்பது
இதை உற்பத்திக்குக் கொண்டுவருவதற்கு முன், உண்மையான அல்லது அடையாளம் மறைக்கப்பட்ட பழைய பயணச்சீட்டுகளின் ஒரு சிறிய தொகுப்பைக் கொண்டு இதைச் சோதித்துப் பாருங்கள்.
கடந்த 100 டிக்கெட்டுகளைப் பயன்படுத்தி, உதவியாளரின் வழித்தடத் தேர்வை, குழுவின் அசல் வழித்தடத் தேர்வு முடிவுடன் ஒப்பிட்டுப் பாருங்கள்.
சரிபார்க்கவும்:
மனித அடையாளத்துடன் எத்தனை பிரிவுகள் பொருந்தின?
எத்தனை அவசர டிக்கெட்டுகள் சரியாக மேல்நிலைப்படுத்தப்பட்டன
குறைந்த முன்னுரிமை கொண்ட எத்தனை டிக்கெட்டுகள் தவறுதலாக அவசரமானவை எனக் குறிக்கப்பட்டன?
முக்கியமான டிக்கெட்டுகள் மனித மதிப்பாய்வுக்கு அனுப்பப்பட்டதா இல்லையா
ஒரு டிக்கெட்டுக்கான சராசரி செயலாக்க நேரம்
100 டிக்கெட்டுகளுக்கான விலை
பின்னர், ஒழுங்கற்ற எடுத்துக்காட்டுகளுடன் இரண்டாவது சோதனையை இயக்கவும்:
ஒரு வாடிக்கையாளர் அனைத்து எழுத்துக்களையும் பெரிய எழுத்துக்களில் எழுதுகிறார்
ஒரு டிக்கெட்டில் ஒரே நேரத்தில் மூன்று சிக்கல்கள் உள்ளன
அந்தச் செய்தி, “உள்நுழைய முடியவில்லை” என்பது போன்ற இரண்டே வார்த்தைகளைக் கொண்டது
ஒரு பயனர் பணத்தைத் திரும்பக் கேட்டு, சட்ட நடவடிக்கை எடுப்பதாகவும் அச்சுறுத்துகிறார்
ஒரு வாடிக்கையாளர், பாதுகாப்பு தொடர்பான சம்பவம் ஒன்று நிகழ்ந்திருக்கலாம் எனப் புகாரளிக்கிறார்
பிழையற்ற டெமோ டிக்கெட்டுகள் எளிதாக இருப்பதால் இந்தச் சோதனைகள் முக்கியமானவை. உண்மையான பயனர்கள் ஒழுங்கற்ற முறையிலும், குறைவான சூழலுடனும், கணிக்க முடியாத நிறுத்தற்குறிகளுடனும் எழுதுகிறார்கள்.
முடிவு
விளக்க முடிவு: இந்த பணிப்பாய்வைப் பயன்படுத்துவதற்கு முன்னும் பின்னும் ஐந்து பணிகளைக் கொண்ட கைமுறை வகைப்படுத்தல் மாதிரியின் நேரத்தைக் கணக்கிட்டதன் அடிப்படையில் இது அமைந்துள்ளது.
கையேடு செயல்முறை:
வாரத்திற்கு 180 டிக்கெட்டுகள்.
ஒரு டிக்கெட்டிற்கான சராசரி கைமுறை வகைப்படுத்தல் நேரம்: 2 நிமிடங்கள் 30 வினாடிகள்.
மொத்த வகைப்படுத்தல் நேரம்: வாரத்திற்கு 450 நிமிடங்கள், அல்லது 7.5 மணிநேரம்.
கிளவுட் செயற்கை நுண்ணறிவு உதவியுடனான செயல்முறை:
சராசரி AI செயலாக்க நேரம்: ஒரு டிக்கெட்டுக்கு 10 வினாடிகளுக்கும் குறைவு.
கொடியிடப்பட்ட டிக்கெட்டுகளுக்கான சராசரி மனித மதிப்பாய்வு நேரம்: 1 நிமிடம் 30 வினாடிகள்.
மனித மதிப்பாய்வு விகிதம்: 25% டிக்கெட்டுகள்.
மதிப்பிடப்பட்ட வாராந்திர வகைப்படுத்தல் நேரம்: 67.5 நிமிடங்கள்.
அதன் மூலம் வாரத்திற்குச் சுமார் 6.4 மணிநேர சேமிப்பு கிடைக்கும் என மதிப்பிடப்பட்டுள்ளது.
துல்லியம் தனியாக அளவிடப்பட வேண்டும். ஒரு யதார்த்தமான சோதனையில், குழு பின்வருமாறு ஒரு தொடக்க விதியை அமைக்கலாம்:
மனித லேபிள்களுடன் குறைந்தபட்சம் 90% வகை பொருத்தம்
பாதுகாப்பு தொடர்பான 100% புகார்களும் மனித மதிப்பாய்வுக்கு அனுப்பப்படுகின்றன
5%க்கும் குறைவான டிக்கெட்டுகள் தவறான துறைக்கு அனுப்பப்பட்டன
ஒரு டிக்கெட்டின் சராசரி விலை £0.05 க்கும் குறைவு
சோதனைத் தொகுப்பில் உதவியாளர் அந்த இலக்கங்களை எட்டவில்லை என்றால், அது நேரடி டிக்கெட்டுகளைத் தானாக வழிநடத்துவதற்குப் பதிலாக, மதிப்பாய்வு பயன்முறையிலேயே இருக்க வேண்டும்.
என்ன தவறு நடக்கக்கூடும்?
மிகவும் பொதுவான தோல்வி என்பது தெளிவற்ற வகைப்பாடுகள்தான். “பிழை”, “தொழில்நுட்பச் சிக்கல்”, மற்றும் “தயாரிப்புச் சிக்கல்” ஆகிய அனைத்தும் ஏறக்குறைய ஒரே பொருளைக் குறித்தால், அந்த உதவியாளர் சீரற்ற முறையில் வகைப்படுத்தும்.
மற்றொரு ஆபத்து, அதீத தானியக்கம் ஆகும். “எனது கணக்கை வேறொருவர் அணுகியுள்ளார்” என்பது போன்ற ஒரு புகாரை, ஒரு சாதாரண உள்நுழைவுச் சிக்கலைப் போல சாதாரணமாக அனுப்பிவிடக் கூடாது. அதற்குப் பிரச்சினையை அடுத்த கட்டத்திற்கு எடுத்துச் செல்லுதல், பதிவு செய்தல், மற்றும் ஒருவேளை ஒரு பாதுகாப்புப் பணிப்பாய்வு ஆகியவையும் தேவை.
தவறான தரவுப் பதிவும் தனியுரிமைச் சிக்கல்களை உருவாக்கக்கூடும். அறிவிப்புகள், டிக்கெட் உரை, மாதிரி வெளியீடுகள் மற்றும் பிழைத் தடங்கள் ஆகியவற்றில் வாடிக்கையாளரின் முக்கியமான தரவுகள் இருக்கலாம். தேவைப்படும் தரவுகளை மட்டும் சேமித்து, அணுகலைக் கட்டுப்படுத்தி, தக்கவைப்பு விதிகளை அமைக்கவும்.
செலவும் மெல்ல அதிகரிக்கக்கூடும். ஒரு சிறிய வகைப்படுத்தி போதுமானதாக இருக்கும்போது, ஒவ்வொரு டிக்கெட்டும் ஒரு பெரிய மாடலுக்கு அனுப்பப்பட்டால், அந்த அமைப்பு தேவையற்ற முறையில் விலை உயர்ந்ததாகிவிடும். மிகச்சிறிய, நம்பகமான தேர்விலிருந்து தொடங்குங்கள்; பின்னர், துல்லியம் உண்மையாகவே மேம்படும் இடங்களில் மட்டுமே மேம்படுத்தவும்.
நடைமுறைப் பாடம்
ஒரு சிறந்த கிளவுட் AI அமைப்பு சிறியதாகவே தொடங்குகிறது: ஒரே பணிப்பாய்வு, தெளிவான விதிகள், சோதனைத் தரவு, மனித மதிப்பாய்வு மற்றும் அளவிடக்கூடிய இலக்குகள். ஆதரவு வகைப்படுத்தலைப் பொறுத்தவரை, "AI எல்லாவற்றையும் கையாளுகிறது" என்பது வெற்றியல்ல. வேகமான வகைப்படுத்தல், தவறவிடப்படும் அவசரப் புகார்களின் எண்ணிக்கை குறைதல், பிழையற்ற ஒப்படைப்புகள், மற்றும் கண்மூடித்தனமாக நம்புவதற்குப் பதிலாகக் குழுவினர் கண்காணிக்கக்கூடிய ஒரு அமைப்பு ஆகியவையே வெற்றியாகும்.
அடிக்கடி கேட்கப்படும் கேள்விகள்
"கிளவுட் கம்ப்யூட்டிங்கில் AI" என்பது அன்றாட வாழ்க்கையில் என்ன அர்த்தம்?
கிளவுட் கம்ப்யூட்டிங்கில் AI என்பது, வன்பொருளை சொந்தமாக வைத்திருக்காமல், தரவைச் சேமிக்க, கம்ப்யூட்டை சுழற்ற (CPUகள்/GPUகள்/TPUகள்), மாதிரிகளைப் பயிற்றுவிக்கவும், அவற்றைப் பயன்படுத்தவும், அவற்றைக் கண்காணிக்கவும் கிளவுட் தளங்களைப் பயன்படுத்துவதாகும். நடைமுறையில், உங்கள் முழு AI வாழ்க்கைச் சுழற்சியும் இயங்கும் இடமாக மேகம் மாறுகிறது. உங்களுக்குத் தேவையானதை உங்களுக்குத் தேவைப்படும்போது வாடகைக்கு எடுத்து, முடித்ததும் அளவைக் குறைக்கிறீர்கள்.
மேகக்கணி பாணி உள்கட்டமைப்பு மற்றும் MLOps இல்லாமல் AI திட்டங்கள் ஏன் தோல்வியடைகின்றன
பெரும்பாலான தோல்விகள் மாதிரியைச் சுற்றியே நிகழ்கின்றன, அதற்குள் அல்ல: சீரற்ற தரவு, பொருந்தாத சூழல்கள், உடையக்கூடிய வரிசைப்படுத்தல்கள் மற்றும் கண்காணிப்பு இல்லை. மேகக்கணி கருவி சேமிப்பு, கணக்கிடுதல் மற்றும் வரிசைப்படுத்தல் முறைகளை தரப்படுத்த உதவுகிறது, இதனால் மாதிரிகள் "இது என் மடிக்கணினியில் வேலை செய்தது" என்பதில் சிக்கிக்கொள்ளாது. MLOps காணாமல் போன பசையைச் சேர்க்கிறது: கண்காணிப்பு, பதிவேடுகள், குழாய்வழிகள் மற்றும் ரோல்பேக், இதனால் அமைப்பு மீண்டும் உருவாக்கக்கூடியதாகவும் பராமரிக்கக்கூடியதாகவும் இருக்கும்.
தரவு முதல் உற்பத்தி வரை கிளவுட் கம்ப்யூட்டிங்கில் AI க்கான வழக்கமான பணிப்பாய்வு
ஒரு பொதுவான ஓட்டம்: தரவு மேகக்கணி சேமிப்பகத்தில் இறங்குகிறது, அம்சங்களாக செயலாக்கப்படுகிறது, பின்னர் மாதிரிகள் அளவிடக்கூடிய கணினியில் பயிற்சி பெறுகின்றன. அடுத்து, நீங்கள் ஒரு API எண்ட்பாயிண்ட், பேட்ச் வேலை, சர்வர்லெஸ் அமைப்பு அல்லது குபெர்னெட்ஸ் சேவை வழியாகப் பயன்படுத்துகிறீர்கள். இறுதியாக, நீங்கள் தாமதம், சறுக்கல் மற்றும் செலவைக் கண்காணித்து, பின்னர் மறுபயிற்சி மற்றும் பாதுகாப்பான வரிசைப்படுத்தல்களுடன் மீண்டும் மீண்டும் செயல்படுகிறீர்கள். பெரும்பாலான உண்மையான குழாய்வழிகள் ஒரு முறை அனுப்புவதற்குப் பதிலாக தொடர்ந்து சுழல்கின்றன.
SageMaker, Vertex AI, Azure ML, Databricks மற்றும் Kubernetes ஆகியவற்றுக்கு இடையே தேர்வு செய்தல்
"சிறந்த தளம்" சந்தைப்படுத்தல் சத்தத்தை அல்ல, உங்கள் குழுவின் யதார்த்தத்தின் அடிப்படையில் தேர்வு செய்யவும். நிர்வகிக்கப்பட்ட ML தளங்கள் (SageMaker/Vertex AI/Azure ML) பயிற்சி வேலைகள், இறுதிப் புள்ளிகள், பதிவேடுகள் மற்றும் கண்காணிப்பு மூலம் செயல்பாட்டு தலைவலியைக் குறைக்கின்றன. டேட்டாபிரிக்ஸ் பெரும்பாலும் பைப்லைன்கள் மற்றும் பகுப்பாய்வுகளுக்கு அருகில் ML ஐ விரும்பும் தரவு-பொறியியல்-கனரக குழுக்களுக்கு பொருந்துகிறது. குபெர்னெட்ஸ் அதிகபட்ச கட்டுப்பாடு மற்றும் தனிப்பயனாக்கத்தை வழங்குகிறது, ஆனால் விஷயங்கள் உடைக்கும்போது நம்பகத்தன்மை, அளவிடுதல் கொள்கைகள் மற்றும் பிழைத்திருத்தத்தையும் நீங்கள் சொந்தமாக வைத்திருக்கிறீர்கள்.
இன்றைய AI கிளவுட் அமைப்புகளில் அதிகம் காணப்படும் கட்டிடக்கலை வடிவங்கள்
நீங்கள் தொடர்ந்து நான்கு வடிவங்களைக் காண்பீர்கள்: வேகத்திற்கான நிர்வகிக்கப்பட்ட ML தளங்கள், தரவு-முதல் நிறுவனங்களுக்கான lakehouse + ML, கட்டுப்பாட்டுக்காக Kubernetes இல் கண்டெய்னரைஸ் செய்யப்பட்ட ML, மற்றும் "எங்கள் உள் அறிவைப் பாதுகாப்பாகப் பயன்படுத்துவதற்கான" RAG (மீட்டெடுப்பு-வளர்க்கப்பட்ட தலைமுறை). RAG பொதுவாக கிளவுட் சேமிப்பகத்தில் உள்ள ஆவணங்கள், உட்பொதிப்புகள் + ஒரு வெக்டர் ஸ்டோர், ஒரு மீட்டெடுப்பு அடுக்கு மற்றும் பதிவுசெய்தலுடன் அணுகல் கட்டுப்பாடுகளை உள்ளடக்கியது. நீங்கள் தேர்ந்தெடுக்கும் முறை உங்கள் ஆளுகை மற்றும் ops முதிர்ச்சியுடன் பொருந்த வேண்டும்.
கிளவுட் AI மாதிரிகளை அணிகள் எவ்வாறு பயன்படுத்துகின்றன: REST APIகள், தொகுதி வேலைகள், சர்வர்லெஸ் அல்லது குபெர்னெட்ஸ்
தயாரிப்பு தாமதம் முக்கியமானதாக இருக்கும்போது நிகழ்நேர கணிப்புகளுக்கு REST APIகள் பொதுவானவை. திட்டமிடப்பட்ட மதிப்பெண் மற்றும் செலவுத் திறனுக்கு தொகுதி அனுமானம் சிறந்தது, குறிப்பாக முடிவுகள் உடனடியாக இருக்க வேண்டிய அவசியமில்லை என்றால். சர்வர்லெஸ் எண்ட்பாயிண்ட்கள் கூர்மையான போக்குவரத்திற்கு நன்றாக வேலை செய்யும், ஆனால் குளிர் தொடக்கங்கள் மற்றும் தாமதத்திற்கு கவனம் தேவை. உங்களுக்கு நுண்ணிய அளவிடுதல் மற்றும் பிளாட்ஃபார்ம் கருவியுடன் ஒருங்கிணைப்பு தேவைப்படும்போது குபெர்னெட்ஸ் சிறந்தது, ஆனால் இது செயல்பாட்டு சிக்கலைச் சேர்க்கிறது.
AI அமைப்புகளை ஆரோக்கியமாக வைத்திருக்க உற்பத்தியில் என்ன கண்காணிக்க வேண்டும்
குறைந்தபட்சம், தாமதம், பிழை விகிதங்கள் மற்றும் ஒரு கணிப்புக்கான செலவு ஆகியவற்றைக் கண்காணிக்கவும், இதனால் நம்பகத்தன்மை மற்றும் பட்ஜெட் தெரியும். ML பக்கத்தில், மாதிரியின் கீழ் யதார்த்தம் மாறும்போது அதைப் பிடிக்க தரவு சறுக்கல் மற்றும் செயல்திறன் சறுக்கலைக் கண்காணிக்கவும். குறிப்பாக பயனர்கள் ஆக்கப்பூர்வமாக விரோதமாக இருக்கக்கூடிய பொதுவான பயன்பாட்டு நிகழ்வுகளுக்கு, எட்ஜ் கேஸ்கள் மற்றும் மோசமான வெளியீடுகளைப் பதிவு செய்வதும் முக்கியம். மாதிரிகள் பின்வாங்கும்போது ரோல்பேக் முடிவுகளை நல்ல கண்காணிப்பு ஆதரிக்கிறது.
செயல்திறனைக் குறைக்காமல் கிளவுட் AI செலவுகளைக் குறைத்தல்
தேவையைப் பூர்த்தி செய்யும் மிகச்சிறிய மாதிரியைப் பயன்படுத்துவதும், பின்னர் பேட்சிங் மற்றும் கேச்சிங் மூலம் அனுமானத்தை மேம்படுத்துவதும் ஒரு பொதுவான அணுகுமுறையாகும். ஆட்டோஸ்கேலிங் உதவுகிறது, ஆனால் அதற்கு வரம்புகள் தேவை, எனவே "எலாஸ்டிக்" "வரம்பற்ற செலவினமாக" மாறாது. பயிற்சிக்கு, உங்கள் வேலைகள் குறுக்கீடுகளைத் தாங்கினால், ஸ்பாட்/முன்கூட்டியே கணக்கிடக்கூடியது நிறைய சேமிக்க முடியும். எண்ட்பாயிண்ட் மற்றும் அம்சத்திற்கான செலவைக் கண்காணிப்பது அமைப்பின் தவறான பகுதியை மேம்படுத்துவதைத் தடுக்கிறது.
மேகக்கட்டத்தில் AI உடனான மிகப்பெரிய பாதுகாப்பு மற்றும் இணக்க அபாயங்கள்
கட்டுப்பாடற்ற தரவு அணுகல், பலவீனமான ரகசிய மேலாண்மை மற்றும் யார் எதைப் பயிற்றுவித்து பயன்படுத்தினார்கள் என்பதற்கான தணிக்கைத் தடங்கள் இல்லாதது ஆகியவை பெரிய ஆபத்துகளாகும். ஜெனரேட்டிவ் AI, உடனடி ஊசி, பாதுகாப்பற்ற வெளியீடுகள் மற்றும் பதிவுகளில் தோன்றும் முக்கியமான தரவு போன்ற கூடுதல் தலைவலிகளைச் சேர்க்கிறது. பல குழாய்வழிகளுக்கு சுற்றுச்சூழல் தனிமைப்படுத்தல் (dev/staging/prod) மற்றும் தூண்டுதல்கள், வெளியீடுகள் மற்றும் அனுமான பதிவுக்கான தெளிவான கொள்கைகள் தேவை. பாதுகாப்பான அமைப்புகள் நிர்வாகத்தை ஒரு தொடக்க-வார இணைப்பு அல்ல, ஒரு முக்கிய அமைப்புத் தேவையாகக் கருதுகின்றன.
குறிப்புகள்
-
தேசிய தரநிலைகள் மற்றும் தொழில்நுட்ப நிறுவனம் (NIST) - SP 800-145 (இறுதி) - csrc.nist.gov
-
கூகிள் கிளவுட் - AI-க்கான GPUகள் - cloud.google.com
-
கூகிள் கிளவுட் - கிளவுட் TPU ஆவணங்கள் - docs.cloud.google.com
-
அமேசான் வலை சேவைகள் (AWS) - அமேசான் S3 (பொருள் சேமிப்பு) - aws.amazon.com
-
அமேசான் வலை சேவைகள் (AWS) - தரவு ஏரி என்றால் என்ன? - aws.amazon.com
-
அமேசான் வலை சேவைகள் (AWS) - தரவுக் கிடங்கு என்றால் என்ன? - aws.amazon.com
-
அமேசான் வலை சேவைகள் (AWS) - AWS AI சேவைகள் - aws.amazon.com
-
கூகிள் கிளவுட் - கூகிள் கிளவுட் AI APIகள் - cloud.google.com
-
கூகிள் கிளவுட் - MLOps என்றால் என்ன? - cloud.google.com
-
கூகிள் கிளவுட் - வெர்டெக்ஸ் AI மாதிரி பதிவகம் (அறிமுகம்) - docs.cloud.google.com
-
Red Hat - REST API என்றால் என்ன? - redhat.com
-
அமேசான் வலை சேவைகள் (AWS) ஆவணம் - சேஜ்மேக்கர் தொகுதி மாற்றம் - docs.aws.amazon.com
-
அமேசான் வலை சேவைகள் (AWS) - தரவுக் கிடங்கு vs தரவு ஏரி vs தரவு மார்ட் - aws.amazon.com
-
மைக்ரோசாப்ட் லேர்ன் - அஸூர் எம்எல் பதிவேடுகள் (எம்எல்ஓப்ஸ்) - learn.microsoft.com
-
கூகிள் கிளவுட் - கூகிள் கிளவுட் சேமிப்பக கண்ணோட்டம் - docs.cloud.google.com
-
arXiv - மீட்டெடுப்பு-வளர்ச்சியடைந்த தலைமுறை (RAG) தாள் - arxiv.org
-
அமேசான் வலை சேவைகள் (AWS) ஆவணம் - சேஜ்மேக்கர் சர்வர்லெஸ் இன்ஃபரன்ஸ் - docs.aws.amazon.com
-
குபெர்னெட்ஸ் - கிடைமட்ட பாட் ஆட்டோஸ்கேலிங் - kubernetes.io
-
கூகிள் கிளவுட் - வெர்டெக்ஸ் AI தொகுதி கணிப்புகள் - docs.cloud.google.com
-
அமேசான் வலை சேவைகள் (AWS) ஆவணம் - சேஜ்மேக்கர் மாதிரி மானிட்டர் - docs.aws.amazon.com
-
கூகிள் கிளவுட் - வெர்டெக்ஸ் AI மாதிரி கண்காணிப்பு (மாதிரி கண்காணிப்பைப் பயன்படுத்துதல்) - docs.cloud.google.com
-
அமேசான் வலை சேவைகள் (AWS) - அமேசான் EC2 ஸ்பாட் நிகழ்வுகள் - aws.amazon.com
-
கூகிள் கிளவுட் - முன்கூட்டியே பயன்படுத்தக்கூடிய VMகள் - docs.cloud.google.com
-
அமேசான் வலை சேவைகள் (AWS) ஆவணம் - AWS சேஜ்மேக்கர்: இது எவ்வாறு செயல்படுகிறது (பயிற்சி) - docs.aws.amazon.com
-
கூகிள் கிளவுட் - கூகிள் வெர்டெக்ஸ் AI - cloud.google.com
-
மைக்ரோசாப்ட் அஸூர் - அஸூர் இயந்திர கற்றல் - azure.microsoft.com
-
டேட்டாபிரிக்ஸ் - டேட்டாபிரிக்ஸ் லேக்ஹவுஸ் - databricks.com
-
ஸ்னோஃப்ளேக் ஆவணப்படுத்தல் - ஸ்னோஃப்ளேக் AI அம்சங்கள் (கண்ணோட்ட வழிகாட்டி) - docs.snowflake.com
-
ஐபிஎம் - ஐபிஎம் வாட்சன்எக்ஸ் - ஐபிஎம்.காம்
-
கூகிள் கிளவுட் - கிளவுட் நேச்சுரல் லாங்குவேஜ் API ஆவணங்கள் - docs.cloud.google.com
-
ஸ்னோஃப்ளேக் ஆவணம் - ஸ்னோஃப்ளேக் கோர்டெக்ஸ் AI செயல்பாடுகள் (AI SQL) - docs.snowflake.com
-
MLflow - MLflow கண்காணிப்பு - mlflow.org
-
MLflow - MLflow மாதிரி பதிவேடு - mlflow.org
-
கூகிள் கிளவுட் - MLOps: இயந்திர கற்றலில் தொடர்ச்சியான விநியோகம் மற்றும் ஆட்டோமேஷன் பைப்லைன்கள் - cloud.google.com
-
அமேசான் வலை சேவைகள் (AWS) - சேஜ்மேக்கர் அம்சக் கடை - aws.amazon.com
-
ஐபிஎம் - ஐபிஎம் வாட்சன்எக்ஸ்.கவர்னன்ஸ் - ஐபிஎம்.காம்