ஒரு AI முகவரை எவ்வாறு உருவாக்குவது

சுருக்கமான பதில்: நடைமுறையில் செயல்படும் ஒரு AI முகவரை உருவாக்க, அதை ஒரு கட்டுப்படுத்தப்பட்ட வளையமாகக் கருதுங்கள்: உள்ளீட்டை எடுத்து, அடுத்த செயலைத் தீர்மானித்து, குறுகிய அளவிலான கருவியை அழைத்து, முடிவைக் கவனித்து, தெளிவான "முடிந்தது" சரிபார்ப்பு கடந்து செல்லும் வரை மீண்டும் செய்யவும். பணி பல-படி மற்றும் கருவி சார்ந்ததாக இருக்கும்போது அது அதன் இருப்பைப் பெறுகிறது; ஒரு ஒற்றை ப்ராம்ட் அதைத் தீர்த்தால், முகவரைத் தவிர்க்கவும். கடுமையான கருவித் திட்டங்கள், படி வரம்புகள், பதிவு செய்தல் மற்றும் ஒரு வேலிடேட்டர்/விமர்சகரை சேர்க்கவும், இதனால் கருவிகள் தோல்வியடையும் போது அல்லது உள்ளீடுகள் தெளிவற்றதாக இருக்கும்போது, ​​முகவர் வளையத்திற்குப் பதிலாக அதிகரிக்கிறது.

முக்கிய குறிப்புகள்:

கட்டுப்படுத்தி வளையம் : வெளிப்படையான நிறுத்த நிபந்தனைகள் மற்றும் அதிகபட்ச படிகளுடன் உள்ளீடு→செயல்→கவனிப்பு மீண்டும் மீண்டும் செயல்படுத்தவும்.

கருவி வடிவமைப்பு : "எதையும்_செய்" குழப்பத்தைத் தடுக்க கருவிகளை குறுகியதாகவும், தட்டச்சு செய்ததாகவும், அனுமதிக்கப்பட்டதாகவும், சரிபார்க்கப்பட்டதாகவும் வைத்திருங்கள்.

நினைவாற்றல் சுகாதாரம் : குறுகிய கால நிலை மற்றும் நீண்ட கால மீட்டெடுப்பைப் பயன்படுத்தவும்; முழு டிரான்ஸ்கிரிப்டுகளையும் கொட்டுவதைத் தவிர்க்கவும்.

தவறான பயன்பாட்டு எதிர்ப்பு : ஆபத்தான செயல்களுக்கு அனுமதிப் பட்டியல்கள், விகித வரம்புகள், ஐடியம்போடென்சி மற்றும் "ட்ரை-ரன்" ஆகியவற்றைச் சேர்க்கவும்.

சோதனைத்திறன் : ஒரு சூழ்நிலை தொகுப்பை (தோல்விகள், தெளிவின்மை, ஊசிகள்) பராமரித்து ஒவ்வொரு மாற்றத்தையும் மீண்டும் இயக்கவும்.

---

1) சாதாரண மனிதர்களின் சொற்களில், ஒரு AI முகவர் என்றால் என்ன 🧠

ஒரு AI முகவர் ஒரு வளையம். லாங்செயின் "முகவர்கள்" ஆவணங்கள்

அவ்வளவுதான். நடுவில் மூளையுடன் கூடிய ஒரு வளையம்.

உள்ளீடு → சிந்தியுங்கள் → செயல் → கவனிக்கவும் → மீண்டும் செய்யவும் . மறுபரிசீலனை தாள் (காரணம் + செயல்)

எங்கே:

• உள்ளீடு என்பது ஒரு பயனர் கோரிக்கை அல்லது ஒரு நிகழ்வு (புதிய மின்னஞ்சல், ஆதரவு டிக்கெட், சென்சார் பிங்).

• சிந்தனை என்பது அடுத்த படியைப் பற்றிய ஒரு மொழி மாதிரி பகுத்தறிவு.

• Act என்பது ஒரு கருவியை அழைக்கிறது (உள் ஆவணங்களைத் தேடுங்கள், குறியீட்டை இயக்குங்கள், ஒரு டிக்கெட்டை உருவாக்குங்கள், ஒரு பதிலை வரையவும்). OpenAI செயல்பாட்டு அழைப்பு வழிகாட்டி.

• Observe கருவி வெளியீட்டைப் படித்துக் கொண்டிருக்கிறது.

• "அரட்டை" என்பதற்குப் பதிலாக "முகவர்" உணர்வை ஏற்படுத்தும் பகுதியே மீண்டும் மீண்டும் லாங்செயின் "முகவர்கள்" ஆவணங்கள்

சில முகவர்கள் அடிப்படையில் ஸ்மார்ட் மேக்ரோக்கள். மற்றவர்கள் பணிகளை ஏமாற்றி பிழைகளிலிருந்து மீளக்கூடிய ஒரு இளைய ஆபரேட்டரைப் போல செயல்படுகிறார்கள். இரண்டுமே முக்கியம்.

மேலும், உங்களுக்கு முழு சுயாட்சி தேவையில்லை. உண்மையில்... நீங்கள் அதை விரும்பாமல் இருக்கலாம் 🙃

---

2) நீங்கள் எப்போது ஒரு முகவரை உருவாக்க வேண்டும் (மற்றும் எப்போது செய்யக்கூடாது) 🚦

ஒரு முகவரை உருவாக்கும்போது:

• இந்த வேலை பல கட்டங்களைக் மற்றும் நடுவில் என்ன நடக்கிறது என்பதைப் பொறுத்து மாறுகிறது.

• வேலைக்கு கருவி பயன்பாடு (தரவுத்தளங்கள், CRMகள், குறியீடு செயல்படுத்தல், கோப்பு உருவாக்கம், உலாவிகள், உள் APIகள்). LangChain “கருவிகள்” ஆவணங்கள்

• ஒரு முறை மட்டுமே வரும் பதில்களை விட, தடுப்புச் சுவர்கள் மூலம் மீண்டும் மீண்டும் வரக்கூடிய விளைவுகளையே விரும்புகிறீர்கள்

• ஒரு கணினி சரிபார்க்கக்கூடிய விதத்தில், தளர்வாகக் கூட, "முடிந்தது" என்பதை நீங்கள் வரையறுக்கலாம்.

பின்வரும் சந்தர்ப்பங்களில் ஒரு முகவரை உருவாக்க வேண்டாம்:

• ஒரு எளிய கேள்வி பதில் அதை தீர்க்கும் (அதிகமாக வேலை செய்யாதீர்கள், பின்னர் உங்களை நீங்களே வெறுப்பீர்கள்).

• உங்களுக்கு சரியான தீர்மானம் தேவை (முகவர்கள் சீரானவர்களாக இருக்கலாம், ஆனால் ரோபோவாக இருக்க முடியாது).

• இணைக்க உங்களிடம் எந்த கருவிகளோ அல்லது தரவுகளோ இல்லை - பின்னர் அது பெரும்பாலும் அதிர்வுகள் தான்.

வெளிப்படையாகச் சொல்லணும்னா, பாதி “AI முகவர் திட்டங்களில்” சில கிளை விதிகள் உள்ள ஒரு பணிப்பாய்வாக இருக்கலாம். ஆனா, சில நேரத்துல சூழ்நிலையும் முக்கியம் 🤷♂️

---

3) ஒரு AI முகவரின் நல்ல பதிப்பை உருவாக்குவது எது ✅

நீங்கள் கேட்ட "நல்ல பதிப்பை உருவாக்குவது எது" பகுதி இங்கே, ஆனால் நான் கொஞ்சம் வெளிப்படையாகச் சொல்வேன்:

ஒரு AI முகவரின் நல்ல பதிப்பு என்பது அல்ல . அது பின்வருமாறு:

• என்ன செய்ய அனுமதிக்கப்படுகிறது என்பதை அறிவார் (எல்லைகள்)

• கருவிகளை நம்பகத்தன்மையுடன் பயன்படுத்துகிறது (கட்டமைக்கப்பட்ட அழைப்புகள், மறுமுயற்சிகள், நேரமுடிவுகள்) OpenAI செயல்பாட்டு அழைப்பு வழிகாட்டி AWS “நேரமுடிவுகள், மறுமுயற்சிகள் மற்றும் நடுக்கத்துடன் பின்வாங்குதல்”

• நிலையை சுத்தமாக வைத்திருக்கிறது (அழுகாத நினைவகம்) லாங்செயின் “நினைவக கண்ணோட்டம்”

• அதன் செயல்களை விளக்குகிறது (தணிக்கை பாதைகள், ரகசிய பகுத்தறிவு குப்பைகள் அல்ல) NIST AI RMF 1.0 (நம்பகத்தன்மை & வெளிப்படைத்தன்மை)

• பொருத்தமான நிறுத்தங்கள் (நிறைவு சரிபார்ப்புகள், அதிகபட்ச படிகள், விரிவாக்கம்) LangChain "முகவர்கள்" ஆவணங்கள்

• பாதுகாப்பாக தோல்வியடைகிறது (உதவி கேட்கிறது, அதிகார மாயத்தோற்றத்தை ஏற்படுத்தாது) NIST AI RMF 1.0

• சோதிக்கக்கூடியது (நீங்கள் பதிவு செய்யப்பட்ட காட்சிகள் மற்றும் மதிப்பெண் முடிவுகளில் இதை இயக்கலாம்)

உங்க ஏஜென்ட் சோதிக்கப்படலன்னா, அது ரொம்ப நம்பிக்கையான ஸ்லாட் மெஷின். பார்ட்டிகளில் ஜாலி, தயாரிப்பில் பயங்கரம் 😬

---

4) ஒரு முகவரின் முக்கிய கட்டுமானத் தொகுதிகள் ("உடற்கூறியல்" 🧩)

பெரும்பாலான திட முகவர்கள் இந்த துண்டுகளைக் கொண்டுள்ளனர்:

A) கட்டுப்படுத்தி வளையம் 🔁

இவர்தான் இசைக்குழுவினர்:

• இலக்கை எடு

• அடுத்த செயலுக்கு மாதிரியைக் கேளுங்கள்

• இயக்கு கருவி

• கவனிப்பைச் சேர்க்கவும்

• முடியும் வரை மீண்டும் செய்யவும் லாங்செயின் “ஏஜென்ட்ஸ்” ஆவணங்கள்

B) கருவிகள் (அதாவது திறன்கள்) 🧰

கருவிகள் தான் ஒரு முகவரை திறம்படச் செய்கின்றன: லாங்செயின் “கருவிகள்” ஆவணங்கள்

• தரவுத்தள வினவல்கள்

• மின்னஞ்சல்களை அனுப்புதல்

• கோப்புகளை இழுத்தல்

• இயங்கும் குறியீடு

• உள் APIகளை அழைக்கிறது

• விரிதாள்கள் அல்லது CRM களுக்கு எழுதுதல்

C) நினைவகம் 🗃️

இரண்டு வகைகள் முக்கியம்:

• குறுகிய கால நினைவாற்றல் : தற்போதைய இயக்க சூழல், சமீபத்திய படிகள், தற்போதைய திட்டம்

• நீண்ட கால நினைவகம் : பயனர் விருப்பத்தேர்வுகள், திட்ட சூழல், மீட்டெடுக்கப்பட்ட அறிவு (பெரும்பாலும் உட்பொதிப்புகள் + ஒரு திசையன் சேமிப்பு வழியாக) RAG காகிதம்

D) திட்டமிடல் மற்றும் முடிவெடுக்கும் கொள்கை 🧭

நீங்கள் அதை "திட்டமிடல்" என்று அழைக்காவிட்டாலும், உங்களுக்கு ஒரு முறை தேவை:

• சரிபார்ப்புப் பட்டியல்கள்

• ரியாக்ட்-பாணி “சிந்தித்து பின்னர் கருவி” ரியாக்ட் தாள்

• பணி வரைபடங்கள்

• மேற்பார்வையாளர்-பணியாளர் வடிவங்கள்

• மேற்பார்வையாளர்-பணியாளர் வடிவங்கள் மைக்ரோசாஃப்ட் ஆட்டோஜென் (மல்டி-ஏஜென்ட் கட்டமைப்பு)

E) பாதுகாப்புத் தடுப்புகள் மற்றும் மதிப்பீடு 🧯

• அனுமதிகள்

• பாதுகாப்பான கருவி திட்டங்கள் OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்

• வெளியீட்டு சரிபார்ப்பு

• படி வரம்புகள்

• பதிவு செய்தல்

• NIST AI RMF 1.0 ஐ சோதிக்கிறது

ஆமாம், இது தூண்டுதலை விட பொறியியல் சார்ந்தது. இது... ஒருவிதமான விஷயம்.

---

5) ஒப்பீட்டு அட்டவணை: ஒரு முகவரை உருவாக்குவதற்கான பிரபலமான வழிகள் 🧾

கீழே ஒரு யதார்த்தமான “ஒப்பீட்டு அட்டவணை” உள்ளது - சில வினோதங்களுடன், ஏனெனில் உண்மையான அணிகள் விசித்திரமானவை 😄

கருவி / கட்டமைப்பு	பார்வையாளர்கள்	விலை	இது ஏன் வேலை செய்கிறது	குறிப்புகள் (சிறிய குழப்பம்)
லாங்செயின்	லெகோ-பாணி கூறுகளை விரும்பும் பில்டர்கள்	இலவச + உள்கட்டமைப்பு	கருவிகள், நினைவகம், சங்கிலிகளுக்கான பெரிய சுற்றுச்சூழல் அமைப்பு	நீங்க தெளிவாகப் பெயரிடலன்னா ஸ்பாகெட்டி மாதிரி சீக்கிரமா சாப்பிடலாம்
லாமாஇண்டெக்ஸ்	RAG-கனரக அணிகள்	இலவச + உள்கட்டமைப்பு	வலுவான மீட்டெடுப்பு முறைகள், அட்டவணைப்படுத்தல், இணைப்பிகள்	உங்கள் முகவர் அடிப்படையில் "தேடல் + செயல்"... என்றால் அது மிகவும் நல்லது, இது பொதுவானது
OpenAI உதவியாளர்கள் பாணி அணுகுமுறை	வேகமான அமைப்பை விரும்பும் அணிகள்	பயன்பாடு சார்ந்த	உள்ளமைக்கப்பட்ட கருவி அழைப்பு முறைகள் மற்றும் இயக்க நிலை	சில மூலைகளில் குறைவான நெகிழ்வுத்தன்மை, ஆனால் பல பயன்பாடுகளுக்கு சுத்தமாக உள்ளது	OpenAI API ஐ இயக்குகிறது OpenAI உதவியாளர்கள் செயல்பாடு அழைப்பை
சொற்பொருள் கர்னல்	கட்டமைக்கப்பட்ட இசைக்குழுவை விரும்பும் டெவலப்பர்கள்	சுதந்திரமான	திறன்கள்/செயல்பாடுகளுக்கான நேர்த்தியான சுருக்கம்	"நிறுவனம் நேர்த்தியாக" இருக்கிறது - சில நேரங்களில் அது ஒரு பாராட்டு 😉
ஆட்டோஜென்	பல-முகவர் பரிசோதனையாளர்கள்	சுதந்திரமான	முகவர்-முகவர் ஒத்துழைப்பு முறைகள்	அதிகமாகப் பேசலாம்; கடுமையான பணிநீக்க விதிகளை அமைக்கவும்
குழுAI	"முகவர்களின் அணிகள்" ரசிகர்கள்	சுதந்திரமான	பாத்திரங்கள் + பணிகள் + ஒப்படைப்புகள் வெளிப்படுத்த எளிதானது	பணிகள் மென்மையாக இல்லாமல், தெளிவாக இருக்கும்போது சிறப்பாகச் செயல்படும்
வைக்கோல் அடுக்கு	தேடல் + பைப்லைன் மக்கள்	சுதந்திரமான	திடமான குழாய்வழிகள், மீட்டெடுப்பு, கூறுகள்	குறைவான "முகவர் தியேட்டர்", அதிக "நடைமுறை தொழிற்சாலை"
நீங்களே உருட்டவும் (தனிப்பயன் வளையம்)	கட்டுப்பாடு வெறியர்கள் (பாசமுள்ள)	உங்கள் நேரம்	குறைந்தபட்ச மந்திரம், அதிகபட்ச தெளிவு	பொதுவாக நீண்ட காலத்திற்கு சிறந்தது... எல்லாவற்றையும் மீண்டும் கண்டுபிடிக்கும் வரை 😅

மீட்டெடுப்பு , கருவி செயல்படுத்தல் , பல-முகவர் ஒருங்கிணைப்பு அல்லது பணிப்பாய்வு ஆட்டோமேஷன் என்பதைப் பொறுத்து சிறந்த தேர்வு இருக்கும் .

---

6) ஒரு AI முகவரை படிப்படியாக உருவாக்குவது எப்படி (உண்மையான செய்முறை) 🍳🤖

பெரும்பாலான மக்கள் தவிர்க்கும் பகுதி இதுதான், பின்னர் முகவர் ஏன் ஒரு சரக்கறைக்குள் ஒரு ரக்கூன் போல நடந்து கொள்கிறார் என்று ஆச்சரியப்படுகிறார்கள்.

படி 1: வேலையை ஒரே வாக்கியத்தில் வரையறுக்கவும் 🎯

எடுத்துக்காட்டுகள்:

• "கொள்கை மற்றும் டிக்கெட் சூழலைப் பயன்படுத்தி ஒரு வாடிக்கையாளர் பதிலை வரைந்து, பின்னர் ஒப்புதலைக் கேளுங்கள்."

• "ஒரு பிழை அறிக்கையை ஆராய்ந்து, அதை மீண்டும் உருவாக்கி, ஒரு தீர்வை முன்மொழியுங்கள்."

• "முழுமையற்ற சந்திப்புக் குறிப்புகளை பணிகள், உரிமையாளர்கள் மற்றும் காலக்கெடுவாக மாற்றவும்."

உங்களால் அதை எளிமையாக வரையறுக்க முடியாவிட்டால், உங்கள் முகவராலும் முடியாது. நான் சொல்வது அது முடியும், ஆனால் அது மேம்படுத்தும், மேலும் மேம்படுத்தல் என்பது பட்ஜெட்டுகள் இறந்து போகும் இடம்.

படி 2: தன்னாட்சி அளவை முடிவு செய்யுங்கள் (குறைந்த, நடுத்தர, காரமான) 🌶️

• குறைந்த சுயாட்சி : படிகளைப் பரிந்துரைக்கிறது, மனித கிளிக்குகள் "ஒப்புதல்" அளிக்கின்றன.

• நடுத்தரம் : கருவிகளை இயக்குகிறது, வெளியீட்டை வரைகிறது, நிச்சயமற்ற தன்மையை அதிகரிக்கிறது.

• உயர் : முழுமையாக செயல்படுத்துகிறது, விதிவிலக்குகளில் மனிதர்களை மட்டுமே பிங் செய்கிறது.

நீங்கள் விரும்புவதை விடக் குறைவாகத் தொடங்குங்கள். நீங்கள் அதை எப்போதும் பின்னர் அதிகரிக்கலாம்.

படி 3: உங்கள் மாதிரி உத்தியைத் தேர்ந்தெடுங்கள் 🧠

நீங்கள் வழக்கமாக தேர்வு செய்வது:

• எல்லாவற்றிற்கும் ஒரு வலுவான மாதிரி (எளிமையானது)

• மலிவான படிகளுக்கு ஒரு வலுவான மாதிரி + சிறிய மாதிரி (வகைப்பாடு, ரூட்டிங்)

• தேவைப்பட்டால் சிறப்பு மாதிரிகள் (பார்வை, குறியீடு, பேச்சு)

மேலும் முடிவு செய்யுங்கள்:

• அதிகபட்ச டோக்கன்கள்

• வெப்பநிலை

• நீங்கள் நீண்ட பகுத்தறிவுத் தடயங்களை உள்நாட்டில் அனுமதிக்கிறீர்களா (உங்களால் முடியும், ஆனால் இறுதிப் பயனர்களுக்கு மூல சிந்தனைச் சங்கிலியை வெளிப்படுத்த வேண்டாம்)

படி 4: கண்டிப்பான திட்டங்களுடன் கருவிகளை வரையறுக்கவும் 🔩

கருவிகள் இருக்க வேண்டும்:

• குறுகிய

• தட்டச்சு செய்யப்பட்டது

• அனுமதிக்கப்பட்டது

• சரிபார்க்கப்பட்ட OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்

do_anything(input: string) எனப்படும் கருவிக்குப் பதிலாக , இதை உருவாக்கவும்:

• search_kb(வினவல்: சரம்) -> முடிவுகள்[]

• create_ticket(தலைப்பு: சரம், உடல்: சரம், முன்னுரிமை: enum) -> டிக்கெட்_ஐடி

• send_email(to: string, subject: string, body: string) -> status OpenAI செயல்பாட்டு அழைப்பு வழிகாட்டி

நீங்கள் முகவருக்கு ஒரு செயின்சாவைக் கொடுத்தால், அது வேலியையும் அகற்றி ஒரு வேலியை ஒழுங்கமைக்கும்போது அதிர்ச்சியடைய வேண்டாம்.

படி 5: கட்டுப்படுத்தி வளையத்தை உருவாக்குங்கள் 🔁

குறைந்தபட்ச சுழற்சி:

1. இலக்கு + ஆரம்ப சூழலுடன் தொடங்குங்கள்

2. மாதிரியிடம் கேளுங்கள்: “அடுத்த நடவடிக்கை?”

3. கருவி அழைப்பு - கருவியை இயக்கினால்

4. கவனிப்பைச் சேர்க்கவும்

5. நிறுத்த நிலையைச் சரிபார்க்கவும்

6. (அதிகபட்ச படிகளுடன்) LangChain "முகவர்கள்" ஆவணங்களை

சேர்:

• காலாவதிகள்

• மறு முயற்சிகள் (கவனமாக - மறு முயற்சிகள் லூப் ஆகலாம்) AWS “நேரமுடிவுகள், மறு முயற்சிகள் மற்றும் நடுக்கத்துடன் பின்வாங்குதல்”

• கருவி பிழை வடிவமைப்பு (தெளிவானது, கட்டமைக்கப்பட்ட)

படி 6: நினைவகத்தை கவனமாகச் சேர்க்கவும் 🗃️

குறுகிய காலம்: ஒவ்வொரு படியிலும் ஒரு சிறிய "நிலை சுருக்கத்தை" புதுப்பித்து வைத்திருங்கள். LangChain "நினைவக கண்ணோட்டம்"
நீண்ட காலம்: நீடித்த உண்மைகளை (பயனர் விருப்பத்தேர்வுகள், org விதிகள், நிலையான ஆவணங்கள்) சேமிக்கவும்.

கட்டைவிரல் விதி:

• அது அடிக்கடி மாறினால் - அதை குறுகிய காலத்திற்கு வைத்திருங்கள்

• அது நிலையானதாக இருந்தால் - நீண்ட காலத்திற்கு சேமிக்கவும்

• அது உணர்திறன் மிக்கதாக இருந்தால் - குறைவாகவே சேமிக்கவும் (அல்லது சேமிக்கவே வேண்டாம்)

படி 7: சரிபார்ப்பு மற்றும் "விமர்சகர்" பாஸைச் சேர்க்கவும் 🧪

மலிவான, நடைமுறை முறை:

• முகவர் முடிவை உருவாக்குகிறார்

• வேலிடேட்டர் கட்டமைப்பு மற்றும் கட்டுப்பாடுகளை சரிபார்க்கிறது

• விடுபட்ட படிகள் அல்லது கொள்கை மீறல்களுக்கான விருப்ப விமர்சகர் மாதிரி மதிப்புரைகள் NIST AI RMF 1.0

சரியானதாக இல்லை, ஆனால் அது அதிர்ச்சியூட்டும் அளவு முட்டாள்தனத்தைப் பிடிக்கிறது.

படி 8: பதிவு செய்யாமல் போனதற்கு வருத்தப்படும் அனைத்தையும் பதிவு செய்யவும் 📜

பதிவு:

• கருவி அழைப்புகள் + உள்ளீடுகள் + வெளியீடுகள்

• எடுக்கப்பட்ட முடிவுகள்

• பிழைகள்

• இறுதி வெளியீடுகள்

• டோக்கன்கள் மற்றும் தாமதம் OpenTelemetry observability ப்ரைமர்

எதிர்காலம் - நீ நன்றி சொல்வாய். நிகழ்காலம் - நீ மறந்து விடுவாய். அதுதான் வாழ்க்கை 😵💫

---

7) உங்கள் ஆன்மாவை உடைக்காத கருவி அழைப்பு 🧰😵

கருவி அழைப்பு என்பது "ஒரு AI முகவரை எவ்வாறு உருவாக்குவது" என்பது உண்மையான மென்பொருள் பொறியியலாக மாறும் இடமாகும்.

கருவிகளை நம்பகமானதாக ஆக்குங்கள் (நம்பகமானது நல்லது)

நம்பகமான கருவிகள் பின்வருமாறு:

• தீர்மானகரமான

• குறுகிய நோக்கம் கொண்ட

• சோதிக்க எளிதானது

• ஸ்ட்ரைப் “ஐடெம்போடென்ட் கோரிக்கைகளை” மீண்டும் இயக்குவது பாதுகாப்பானது.

கருவி அடுக்கில் பாதுகாப்புத் தண்டவாளங்களைச் சேர்க்கவும், வெறும் குறிப்புகளைச் சேர்க்காமல்

அறிவுறுத்தல்கள் என்பது கண்ணியமான பரிந்துரைகள். கருவி சரிபார்ப்பு என்பது பூட்டிய கதவு. OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்.

செய்:

• அனுமதிப் பட்டியல்கள் (எந்தக் கருவிகளை இயக்க முடியும்)

• உள்ளீட்டு சரிபார்ப்பு

• விகித வரம்புகள் OpenAI விகித வரம்புகள் வழிகாட்டி

• பயனர்/org க்கு அனுமதி சோதனைகள்

• ஆபத்தான செயல்களுக்கு "உலர்-ரன் பயன்முறை"

பகுதியளவு தோல்விக்கான வடிவமைப்பு

கருவிகள் தோல்வியடைகின்றன. நெட்வொர்க்குகள் தடுமாறுகின்றன. அங்கீகாரம் காலாவதியாகிறது. ஒரு முகவர் கண்டிப்பாக:

• பிழைகளை விளக்குதல்

• பொருத்தமான போது பின்சேமிப்புடன் மீண்டும் முயற்சிக்கவும் Google Cloud மறுசேமிப்பு உத்தி (பின்சேமிப்பு + நடுக்கம்)

• மாற்று கருவிகளைத் தேர்வுசெய்க

• சிக்கிக் கொள்ளும்போது அதிகரிக்கும்

அமைதியான பயனுள்ள தந்திரம்: இது போன்ற கட்டமைக்கப்பட்ட பிழைகளைத் திருப்பி அனுப்புதல்:

• வகை: auth_error

• வகை: not_found

• வகை: விகிதம்_வரையறுக்கப்பட்டது
  எனவே மாதிரி பீதி அடைவதற்குப் பதிலாக புத்திசாலித்தனமாக பதிலளிக்க முடியும்.

---

8) உங்களை வேட்டையாடுவதற்கு பதிலாக உதவும் நினைவகம் 👻🗂️

நினைவாற்றல் சக்தி வாய்ந்தது, ஆனால் அது குப்பைகளை எடுத்துச் செல்லும் இடமாகவும் மாறக்கூடும்.

குறுகிய கால நினைவாற்றல்: அதை சுருக்கமாக வைத்திருங்கள்

பயன்படுத்தவும்:

• கடைசி N படிகள்

• இயங்கும் சுருக்கம் (ஒவ்வொரு சுழற்சியிலும் புதுப்பிக்கப்பட்டது)

• தற்போதைய திட்டம்

• தற்போதைய கட்டுப்பாடுகள் (பட்ஜெட், நேரம், கொள்கைகள்)

நீங்கள் எல்லாவற்றையும் சூழலில் சேர்த்தால், உங்களுக்குக் கிடைக்கும்:

• அதிக செலவு

• மெதுவான தாமதம்

• அதிக குழப்பம் (ஆம், அப்போதும் கூட)

நீண்ட கால நினைவாற்றல்: "நிரப்புதல்" மூலம் மீட்டெடுப்பு

பெரும்பாலான "நீண்ட கால நினைவகம்" இதைப் போன்றது:

• உட்பொதிப்புகள்

• திசையன் சேமிப்பு

• மீட்டெடுப்பு ஆக்மென்டட் ஜெனரேஷன் (RAG) RAG பேப்பர்

முகவர் மனப்பாடம் செய்யவில்லை. இது இயக்க நேரத்தில் மிகவும் பொருத்தமான துணுக்குகளை மீட்டெடுக்கிறது. LlamaIndex “RAG அறிமுகம்”

நடைமுறை நினைவாற்றல் விதிகள்

• "விருப்பத்தேர்வுகளை" வெளிப்படையான உண்மைகளாகச் சேமிக்கவும்: "பயனர் புல்லட் சுருக்கங்களை விரும்புகிறார், எமோஜிகளை வெறுக்கிறார்" (ஹால், இங்கே இல்லை 😄)

• நேர முத்திரைகள் அல்லது பதிப்புகளுடன் "முடிவுகளை" சேமிக்கவும் (இல்லையெனில் முரண்பாடுகள் குவிந்துவிடும்)

• உண்மையிலேயே அவசியம் இல்லாவிட்டால் ஒருபோதும் ரகசியங்களைச் சேமிக்காதீர்கள்

இதோ என்னுடைய அபூரண உருவகம்: நினைவகம் ஒரு குளிர்சாதன பெட்டி போன்றது. நீங்கள் அதை ஒருபோதும் சுத்தம் செய்யாவிட்டால், இறுதியில் உங்கள் சாண்ட்விச் வெங்காயம் மற்றும் வருத்தத்தைப் போல சுவைக்காது.

---

9) திட்டமிடல் முறைகள் (எளிமையானது முதல் ஆடம்பரமானது வரை) 🧭✨

திட்டமிடல் என்பது கட்டுப்படுத்தப்பட்ட சிதைவு மட்டுமே. அதை மாயமாக்காதீர்கள்.

பேட்டர்ன் A: சரிபார்ப்புப் பட்டியல் திட்டமிடுபவர் ✅

• மாதிரி படிகளின் பட்டியலை வெளியிடுகிறது

• படிப்படியாக செயல்படுத்துகிறது

• சரிபார்ப்புப் பட்டியல் நிலையைப் புதுப்பிக்கிறது

ஆன்போர்டிங்கிற்கு சிறந்தது. எளிமையானது, சோதிக்கக்கூடியது.

பேட்டர்ன் பி: ரீஆக்ட் லூப் (காரணம் + செயல்) 🧠→🧰

• அடுத்த கருவி அழைப்பை மாதிரி தீர்மானிக்கிறது

• வெளியீட்டைக் கவனிக்கிறது

• ரியாக்ட் தாளை மீண்டும் கூறுகிறது

இதுதான் உன்னதமான முகவர் உணர்வு.

பேட்டர்ன் சி: மேற்பார்வையாளர்-பணியாளர் 👥

• மேற்பார்வையாளர் இலக்கை பணிகளாகப் பிரிக்கிறார்

• தொழிலாளர்கள் சிறப்புப் பணிகளைச் செய்கிறார்கள்

• மேற்பார்வையாளர் முடிவுகளை இணைக்கிறார் Microsoft AutoGen (மல்டி-ஏஜென்ட் கட்டமைப்பு)

பணிகள் இணையாகச் செய்யக்கூடியதாக இருக்கும்போது அல்லது நீங்கள் வெவ்வேறு "பங்குகளை" விரும்பும் போது இது மதிப்புமிக்கது:

• ஆராய்ச்சியாளர்

• குறியீட்டாளர்

• ஆசிரியர்

• QA சரிபார்ப்பு

பேட்டர்ன் டி: மீண்டும் திட்டமிடுவதன் மூலம் திட்டமிட்டு செயல்படுத்தவும் 🔄

• திட்டத்தை உருவாக்கு

• செயல்படுத்து

• கருவி முடிவுகள் யதார்த்தத்தை மாற்றினால், மீண்டும் திட்டமிடுங்கள்

இது முகவர் ஒரு மோசமான திட்டத்தை பிடிவாதமாகப் பின்பற்றுவதைத் தடுக்கிறது. மனிதர்கள் சோர்வடையாவிட்டால் இதைச் செய்கிறார்கள், அந்த விஷயத்தில் அவர்கள் மோசமான திட்டங்களையும் பின்பற்றுகிறார்கள்.

---

10) பாதுகாப்பு, நம்பகத்தன்மை மற்றும் பணிநீக்கம் செய்யப்படாமல் இருத்தல் 🔐😅

உங்கள் முகவர் நடவடிக்கை எடுக்க முடிந்தால், உங்களுக்கு பாதுகாப்பு வடிவமைப்பு தேவை. "இருப்பது நல்லது" அல்ல. தேவை. NIST AI RMF 1.0

கடுமையான வரம்புகள்

• ஒரு ஓட்டத்திற்கு அதிகபட்ச படிகள்

• நிமிடத்திற்கு அதிகபட்ச கருவி அழைப்புகள்

• ஒரு அமர்வுக்கு அதிகபட்ச செலவு (டோக்கன் பட்ஜெட்)

• ஒப்புதலுக்குப் பின்னால் உள்ள கட்டுப்படுத்தப்பட்ட கருவிகள்

தரவு கையாளுதல்

• பதிவு செய்வதற்கு முன் முக்கியமான உள்ளீடுகளை திருத்தவும்

• தனி சூழல்கள் (மேம்பாட்டாளர் vs உற்பத்தி)

• குறைந்த-சலுகை கருவி அனுமதிகள்

நடத்தை கட்டுப்பாடுகள்

• முகவரை உள் சான்றுத் துணுக்குகளை மேற்கோள் காட்ட கட்டாயப்படுத்துதல் (வெளிப்புற இணைப்புகள் அல்ல, உள் குறிப்புகள் மட்டுமே)

• நம்பிக்கை குறைவாக இருக்கும்போது நிச்சயமற்ற தன்மை கொடிகள் தேவை

• உள்ளீடுகள் தெளிவற்றதாக இருந்தால் "தெளிவுபடுத்தும் கேள்வியைக் கேளுங்கள்" என்று கேட்க வேண்டும்

நம்பகமான முகவர் என்பவர் மிகவும் நம்பிக்கையானவர் அல்ல. அவர் எப்போது யூகிக்க வேண்டும் என்பதை அறிந்து... அப்படிச் சொல்பவர்.

---

11) சோதனை மற்றும் மதிப்பீடு (அனைவரும் தவிர்க்கும் பகுதி) 🧪📏

உங்களால் அளவிட முடியாததை உங்களால் மேம்படுத்த முடியாது. ஆமாம், அந்த வரி அபத்தமானது, ஆனால் அது எரிச்சலூட்டும் அளவுக்கு உண்மை.

ஒரு காட்சி தொகுப்பை உருவாக்குங்கள்

30-100 சோதனை வழக்குகளை உருவாக்குங்கள்:

• மகிழ்ச்சியான பாதைகள்

• விளிம்புப் பெட்டிகள்

• "கருவி தோல்வியடைந்த" வழக்குகள்

• தெளிவற்ற கோரிக்கைகள்

• எதிர்மறையான தூண்டுதல்கள் (உடனடி ஊசி முயற்சிகள்) OWASP LLM பயன்பாடுகளுக்கான முதல் 10 OWASP LLM01 உடனடி ஊசி

மதிப்பெண் முடிவுகள்

இது போன்ற அளவீடுகளைப் பயன்படுத்தவும்:

• பணி வெற்றி விகிதம்

• முடிக்க வேண்டிய நேரம்

• கருவி பிழை மீட்பு விகிதம்

• மாயத்தோற்ற விகிதம் (ஆதாரம் இல்லாத கூற்றுகள்)

• மனித ஒப்புதல் விகிதம் (மேற்பார்வை பயன்முறையில் இருந்தால்)

தூண்டுதல்கள் மற்றும் கருவிகளுக்கான பின்னடைவு சோதனைகள்

நீங்கள் எப்போது மாறினாலும்:

• கருவித் திட்டம்

• கணினி வழிமுறைகள்

• மீட்டெடுப்பு தர்க்கம்

• நினைவக வடிவம்
  தொகுப்பை மீண்டும் இயக்கவும்.

முகவர்கள் உணர்திறன் மிக்க மிருகங்கள். வீட்டு தாவரங்களைப் போல, ஆனால் விலை அதிகம்.

---

12) உங்கள் பட்ஜெட்டை உருகாத வரிசைப்படுத்தல் முறைகள் 💸🔥

ஒரே ஒரு சேவையுடன் தொடங்குங்கள்

• முகவர் கட்டுப்படுத்தி API

• அதன் பின்னால் உள்ள கருவி சேவைகள்

• பதிவு செய்தல் + கண்காணிப்பு OpenTelemetry observability ப்ரைமர்

செலவுக் கட்டுப்பாடுகளை முன்கூட்டியே சேர்க்கவும்

• தற்காலிக சேமிப்பு மீட்பு முடிவுகள்

• உரையாடல் நிலையை சுருக்கங்களுடன் சுருக்குதல்

• ரூட்டிங் மற்றும் பிரித்தெடுப்பதற்கு சிறிய மாதிரிகளைப் பயன்படுத்துதல்

• "ஆழ்ந்த சிந்தனை முறையை" கடினமான படிகளுக்கு மட்டுப்படுத்துதல்

பொதுவான கட்டிடக்கலை தேர்வு

• நிலையற்ற கட்டுப்படுத்தி + வெளிப்புற நிலை ஸ்டோர் (DB/redis)

• கருவி அழைப்புகள் சாத்தியமான இடங்களில் ஐடெம்போடென்ட் ஆகும் கோடு “ஐடெம்போடென்ட் கோரிக்கைகள்”

• நீண்ட பணிகளுக்காக வரிசையில் நிற்கவும் (எனவே நீங்கள் ஒரு வலை கோரிக்கையை எப்போதும் திறந்து வைத்திருக்க மாட்டீர்கள்)

மேலும்: ஒரு "கில் ஸ்விட்சை" உருவாக்குங்கள். உங்களுக்கு உண்மையிலேயே அது தேவைப்படும் வரை உங்களுக்கு அது தேவையில்லை 😬

---

13) இறுதிக் குறிப்புகள் - ஒரு AI முகவரை எவ்வாறு உருவாக்குவது என்பதற்கான சிறு பதிப்பு 🎁🤖

வேறு எதுவும் நினைவில் இல்லை என்றால், இதை நினைவில் கொள்ளுங்கள்:

• ஒரு AI முகவரை எவ்வாறு உருவாக்குவது என்பது பெரும்பாலும் ஒரு மாதிரியைச் சுற்றி ஒரு பாதுகாப்பான வளையத்தை உருவாக்குவது பற்றியது. LangChain “முகவர்கள்” ஆவணங்கள்

• தெளிவான இலக்கு, குறைந்த சுயாட்சி மற்றும் கண்டிப்பான கருவிகளுடன் தொடங்குங்கள். OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்

• முடிவில்லா சூழல் நிரப்புதல் அல்ல, மீட்டெடுப்பு மூலம் நினைவகத்தைச் சேர்க்கவும். RAG காகிதம்.

• திட்டமிடல் எளிமையாக இருக்கலாம் - சரிபார்ப்புப் பட்டியல்களும் மறு திட்டமிடலும் வெகுதூரம் செல்லச் செல்கின்றன.

• பதிவு செய்தல் மற்றும் சோதனைகள் முகவர் குழப்பத்தை நீங்கள் அனுப்பக்கூடிய ஒன்றாக மாற்றுகின்றன. OpenTelemetry observability primer

• கார்ட்ரெயில்கள் வெறும் குறிப்புகளில் மட்டுமல்ல, குறியீட்டிலும் அடங்கும். LLM பயன்பாடுகளுக்கான OWASP டாப் 10

ஒரு முகவர் மாயாஜாலம் அல்ல. அது மதிப்புமிக்கதாக இருக்க போதுமான அளவு நல்ல முடிவுகளை எடுக்கும் ஒரு அமைப்பு... சேதத்தை ஏற்படுத்துவதற்கு முன்பு தோல்வியை ஒப்புக்கொள்கிறது. ஒரு வகையில் அமைதியாக ஆறுதல் அளிக்கிறது 😌

ஆமாம், நீங்கள் அதை சரியாக உருவாக்கினால், அது ஒருபோதும் தூங்காத, எப்போதாவது பீதியடையும், மற்றும் காகித வேலைகளை விரும்பும் ஒரு சிறிய டிஜிட்டல் பயிற்சியாளரை பணியமர்த்துவது போன்ற உணர்வை ஏற்படுத்துகிறது. எனவே, அடிப்படையில் ஒரு பயிற்சியாளர்.

---

அடிக்கடி கேட்கப்படும் கேள்விகள்

எளிமையான சொற்களில் AI முகவர் என்றால் என்ன?

ஒரு AI முகவர் என்பது அடிப்படையில் மீண்டும் மீண்டும் நிகழும் ஒரு வளையமாகும்: உள்ளீட்டை எடுத்துக் கொள்ளுங்கள், அடுத்த படியை முடிவு செய்யுங்கள், ஒரு கருவியைப் பயன்படுத்தவும், முடிவைப் படிக்கவும், அது முடியும் வரை மீண்டும் செய்யவும். "முகவர்" பகுதி வெறும் அரட்டையடிப்பதில் இருந்து அல்ல, நடிப்பு மற்றும் கவனிப்பதில் இருந்து வருகிறது. பல முகவர்கள் கருவி அணுகலுடன் கூடிய ஸ்மார்ட் ஆட்டோமேஷன் மட்டுமே, மற்றவர்கள் பிழைகளிலிருந்து மீளக்கூடிய ஒரு இளைய ஆபரேட்டரைப் போல நடந்து கொள்கிறார்கள்.

வெறும் ப்ராம்ட்டைப் பயன்படுத்துவதற்குப் பதிலாக எப்போது AI முகவரை உருவாக்க வேண்டும்?

வேலை பல-படிநிலையாக இருக்கும்போது, ​​இடைநிலை முடிவுகளின் அடிப்படையில் மாறும்போது, ​​நம்பகமான கருவி பயன்பாடு (APIகள், தரவுத்தளங்கள், டிக்கெட்டிங், குறியீடு செயல்படுத்தல்) தேவைப்படும்போது ஒரு முகவரை உருவாக்குங்கள். பாதுகாப்புத் தண்டவாளங்கள் மற்றும் "முடிந்தது" என்பதைச் சரிபார்க்க ஒரு வழியுடன் மீண்டும் மீண்டும் செய்யக்கூடிய விளைவுகளை நீங்கள் விரும்பும் போது முகவர்கள் பயனுள்ளதாக இருக்கும். ஒரு எளிய உடனடி-பதில் வேலை செய்தால், ஒரு முகவர் பொதுவாக தேவையற்ற மேல்நிலை மற்றும் கூடுதல் தோல்வி முறைகளாக இருப்பார்.

சுழல்களில் சிக்கிக் கொள்ளாத ஒரு AI முகவரை எவ்வாறு உருவாக்குவது?

கடின நிறுத்த நிபந்தனைகளைப் பயன்படுத்தவும்: அதிகபட்ச படிகள், அதிகபட்ச கருவி அழைப்புகள் மற்றும் தெளிவான நிறைவு சரிபார்ப்புகள். கட்டமைக்கப்பட்ட கருவி திட்டங்கள், காலக்கெடு மற்றும் எப்போதும் மீண்டும் முயற்சிக்காத மறு முயற்சிகளைச் சேர்க்கவும். முடிவுகள் மற்றும் கருவி வெளியீடுகளைப் பதிவுசெய்து, அது எங்கு தடம் புரள்கிறது என்பதை நீங்கள் பார்க்கலாம். பொதுவான பாதுகாப்பு வால்வு என்பது அதிகரிப்பு: முகவர் நிச்சயமற்றவராக இருந்தால் அல்லது பிழைகளை மீண்டும் செய்தால், அது மேம்படுத்துவதற்குப் பதிலாக உதவி கேட்க வேண்டும்.

ஒரு AI முகவரை எவ்வாறு உருவாக்குவது என்பதற்கான குறைந்தபட்ச கட்டமைப்பு என்ன?

குறைந்தபட்சம், மாதிரிக்கு ஒரு குறிக்கோளையும் சூழலையும் அளிக்கும், அடுத்த செயலைக் கேட்கும், கோரப்பட்டால் ஒரு கருவியைச் செயல்படுத்தும், கவனிப்பைச் சேர்க்கும் மற்றும் மீண்டும் செய்யும் ஒரு கட்டுப்படுத்தி வளையம் உங்களுக்குத் தேவை. கடுமையான உள்ளீடு/வெளியீட்டு வடிவங்கள் மற்றும் "முடிந்தது" சரிபார்ப்பு கொண்ட கருவிகளும் உங்களுக்குத் தேவை. நீங்கள் நிலையை சுத்தமாக வைத்திருந்து படி வரம்புகளைச் செயல்படுத்தினால், உங்கள் சொந்தமாகச் செய்யும் வளையம் கூட நன்றாக வேலை செய்யும்.

உற்பத்தியில் நம்பகமானதாக இருக்க, கருவி அழைப்பை எவ்வாறு வடிவமைப்பது?

கருவிகளை குறுகியதாகவும், தட்டச்சு செய்யப்பட்டதாகவும், அனுமதிக்கப்பட்டதாகவும், சரிபார்க்கப்பட்டதாகவும் வைத்திருங்கள் - பொதுவான “எதையும்_செய்” கருவியைத் தவிர்க்கவும். முகவர் உள்ளீடுகளை கையால் அசைக்க முடியாதபடி கடுமையான ஸ்கீமாக்களை (கட்டமைக்கப்பட்ட வெளியீடுகள்/செயல்பாட்டு அழைப்பு போன்றவை) விரும்புங்கள். கருவி அடுக்கில் அனுமதிப் பட்டியல்கள், விகித வரம்புகள் மற்றும் பயனர்/org அனுமதி சரிபார்ப்புகளைச் சேர்க்கவும். ஐடிம்போடென்சி வடிவங்களைப் பயன்படுத்தி, முடிந்தவரை மீண்டும் இயக்க பாதுகாப்பாக இருக்கும் வகையில் கருவிகளை வடிவமைக்கவும்.

முகவரை மோசமாக்காமல் நினைவகத்தைச் சேர்க்க சிறந்த வழி எது?

நினைவகத்தை இரண்டு பகுதிகளாகக் கருதுங்கள்: குறுகிய கால இயக்க நிலை (சமீபத்திய படிகள், தற்போதைய திட்டம், கட்டுப்பாடுகள்) மற்றும் நீண்ட கால மீட்டெடுப்பு (விருப்பத்தேர்வுகள், நிலையான விதிகள், தொடர்புடைய ஆவணங்கள்). முழு டிரான்ஸ்கிரிப்டுகளுடன் அல்லாமல், இயங்கும் சுருக்கங்களுடன் குறுகிய கால சுருக்கத்தை வைத்திருங்கள். நீண்ட கால நினைவகத்திற்கு, மீட்டெடுப்பு (உட்பொதிப்புகள் + வெக்டர் ஸ்டோர்/RAG வடிவங்கள்) பொதுவாக எல்லாவற்றையும் சூழலில் "நிரப்புவதை"யும் மாதிரியைக் குழப்புவதையும் வெல்கிறது.

நான் எந்த திட்டமிடல் முறையைப் பயன்படுத்த வேண்டும்: சரிபார்ப்புப் பட்டியல், மறுபரிசீலனை அல்லது மேற்பார்வையாளர்-பணியாளர்?

பணிகள் கணிக்கக்கூடியதாகவும், சோதிக்க எளிதான ஒன்றை நீங்கள் விரும்பும் போதும் சரிபார்ப்புப் பட்டியல் திட்டமிடுபவர் சிறந்தவர். கருவி முடிவுகள் நீங்கள் அடுத்து என்ன செய்கிறீர்கள் என்பதை மாற்றும்போது ReAct-பாணி சுழல்கள் பிரகாசிக்கின்றன. பணிகளை இணையாகச் செய்யும்போது அல்லது தனித்துவமான பாத்திரங்களிலிருந்து (ஆராய்ச்சியாளர், குறியீட்டாளர், QA) பயனடையும்போது மேற்பார்வையாளர்-பணியாளர் வடிவங்கள் (AutoGen-பாணி பங்கு பிரிப்பு போன்றவை) உதவுகின்றன. மறு திட்டமிடலுடன் திட்டமிட்டு செயல்படுத்துவது பிடிவாதமான மோசமான திட்டங்களைத் தவிர்ப்பதற்கான ஒரு நடைமுறை நடுத்தரக் களமாகும்.

ஒரு முகவர் உண்மையான நடவடிக்கைகளை எடுக்க முடிந்தால், அவரை எவ்வாறு பாதுகாப்பாக மாற்றுவது?

குறைந்தபட்ச சலுகை அனுமதிகளைப் பயன்படுத்தவும், ஒப்புதல் அல்லது "உலர்-ரன்" முறைகளுக்குப் பின்னால் ஆபத்தான கருவிகளைக் கட்டுப்படுத்தவும். பட்ஜெட்டுகள் மற்றும் வரம்புகளைச் சேர்க்கவும்: அதிகபட்ச படிகள், அதிகபட்ச செலவு மற்றும் நிமிடத்திற்கு கருவி அழைப்பு வரம்புகள். பதிவு செய்வதற்கு முன் முக்கியமான தரவைத் திருத்தவும், மேலும் உற்பத்தி சூழல்களிலிருந்து டெவலப்பரைப் பிரிக்கவும். உள்ளீடுகள் தெளிவற்றதாக இருக்கும்போது, ​​நம்பிக்கையானது ஆதாரங்களை மாற்றுவதற்குப் பதிலாக, நிச்சயமற்ற தன்மை கொடிகள் அல்லது கேள்விகளை தெளிவுபடுத்துவதைக் கோருங்கள்.

ஒரு AI முகவரை எவ்வாறு சோதித்து மதிப்பிடுவது, அதனால் அது காலப்போக்கில் மேம்படும்?

மகிழ்ச்சியான பாதைகள், எட்ஜ் கேஸ்கள், கருவி தோல்விகள், தெளிவற்ற கோரிக்கைகள் மற்றும் உடனடி-ஊசி முயற்சிகள் (OWASP-பாணி) ஆகியவற்றைக் கொண்ட ஒரு காட்சி தொகுப்பை உருவாக்குங்கள். பணி வெற்றி, முடிக்க வேண்டிய நேரம், கருவி பிழைகளிலிருந்து மீள்வது மற்றும் ஆதாரங்கள் இல்லாமல் உரிமைகோரல்கள் போன்ற முடிவுகளை மதிப்பிடுங்கள். கருவித் திட்டங்கள், அறிவுறுத்தல்கள், மீட்டெடுப்பு அல்லது நினைவக வடிவமைப்பை நீங்கள் மாற்றும் எந்த நேரத்திலும், தொகுப்பை மீண்டும் இயக்கவும். நீங்கள் அதைச் சோதிக்க முடியாவிட்டால், அதை நம்பத்தகுந்த முறையில் அனுப்ப முடியாது.

தாமதம் மற்றும் செலவுகளை அதிகரிக்காமல் ஒரு முகவரை எவ்வாறு பயன்படுத்துவது?

ஒரு பொதுவான முறை, வெளிப்புற நிலை ஸ்டோர் (DB/Redis), அதன் பின்னால் கருவி சேவைகள் மற்றும் வலுவான பதிவு/கண்காணிப்பு (பெரும்பாலும் OpenTelemetry) ஆகியவற்றைக் கொண்ட நிலையற்ற கட்டுப்படுத்தி ஆகும். மீட்டெடுப்பு தற்காலிக சேமிப்பு, சிறிய நிலை சுருக்கங்கள், ரூட்டிங்/பிரித்தெடுப்புக்கான சிறிய மாதிரிகள் மற்றும் கடினமான படிகளுக்கு "ஆழமான சிந்தனையை" கட்டுப்படுத்துதல் மூலம் செலவுகளைக் கட்டுப்படுத்தவும். நீண்ட பணிகளுக்கு வரிசைகளைப் பயன்படுத்தவும், இதனால் நீங்கள் வலை கோரிக்கைகளைத் திறந்து வைத்திருக்க மாட்டீர்கள். எப்போதும் ஒரு கொலை சுவிட்சைச் சேர்க்கவும்.

குறிப்புகள்

1. தேசிய தரநிலைகள் மற்றும் தொழில்நுட்ப நிறுவனம் (NIST) - NIST AI RMF 1.0 (நம்பகத்தன்மை மற்றும் வெளிப்படைத்தன்மை) - nvlpubs.nist.gov

2. OpenAI - கட்டமைக்கப்பட்ட வெளியீடுகள் - platform.openai.com

3. OpenAI - செயல்பாட்டு அழைப்பு வழிகாட்டி - platform.openai.com

4. OpenAI - விகித வரம்புகள் வழிகாட்டி - platform.openai.com

5. OpenAI - இயங்கும் API - platform.openai.com

6. OpenAI - உதவியாளர்கள் செயல்பாடு அழைப்பு - platform.openai.com

7. லாங்செயின் - முகவர்கள் ஆவணங்கள் (ஜாவாஸ்கிரிப்ட்) - docs.langchain.com

8. லாங்செயின் - டாக்ஸ் கருவிகள் (பைதான்) - docs.langchain.com

9. லாங்செயின் - நினைவக கண்ணோட்டம் - docs.langchain.com

10. arXiv - எதிர்வினை தாள் (காரணம் + செயல்) - arxiv.org

11. arXiv - RAG தாள் - arxiv.org

12. அமேசான் வலை சேவைகள் (AWS) பில்டர்ஸ் நூலகம் - டைம்அவுட்கள், மறு முயற்சிகள் மற்றும் நடுக்கத்துடன் பின்வாங்குதல் - aws.amazon.com

13. ஓபன் டெலிமெட்ரி - கண்காணிப்பு ப்ரைமர் - opentelemetry.io

14. ஸ்ட்ரைப் - ஐடெம்போடென்ட் கோரிக்கைகள் - docs.stripe.com

15. கூகிள் கிளவுட் - மீண்டும் முயற்சிக்கும் உத்தி (பின்வாங்குதல் + நடுக்கம்) - docs.cloud.google.com

16. OWASP - பெரிய மொழி மாதிரி பயன்பாடுகளுக்கான முதல் 10 - owasp.org

17. OWASP - LLM01 உடனடி ஊசி - genai.owasp.org

18. ல்லாமாஇண்டெக்ஸ் - RAG அறிமுகம் - developers.llamaindex.ai

19. மைக்ரோசாப்ட் - சொற்பொருள் கர்னல் - learn.microsoft.com

20. மைக்ரோசாப்ட் ஆட்டோஜென் - மல்டி-ஏஜென்ட் கட்டமைப்பு (ஆவணங்கள்) - microsoft.github.io

21. CrewAI - முகவர்கள் கருத்துக்கள் - docs.crewai.com

22. வைக்கோல் குவியல் (ஆழமான தொகுப்பு) - ரெட்ரீவர்ஸ் ஆவணங்கள் - docs.haystack.deepset.ai

அதிகாரப்பூர்வ AI உதவியாளர் கடையில் சமீபத்திய AI ஐக் கண்டறியவும்

எங்களை பற்றி