ஒரு AI ஏஜென்ட்டை உருவாக்குவது எப்படி [காணொளி மற்றும் வினாவிடை]

சுருக்கமான பதில்: நடைமுறையில் செயல்படும் ஒரு AI ஏஜென்ட்டை உருவாக்க, அதை ஒரு கட்டுப்படுத்தப்பட்ட சுழற்சியாகக் கருதுங்கள்: உள்ளீட்டைப் பெறுங்கள், அடுத்த செயலைத் தீர்மானியுங்கள், ஒரு குறிப்பிட்ட வரையறைக்குட்பட்ட கருவியை அழையுங்கள், முடிவைக் கவனியுங்கள், மேலும் ஒரு தெளிவான "முடிந்தது" என்ற சரிபார்ப்பு நிறைவேறும் வரை இதைத் திரும்பத் திரும்பச் செய்யுங்கள். பணி பல படிகளைக் கொண்டதாகவும், கருவி சார்ந்ததாகவும் இருக்கும்போது இது பயனுள்ளதாக இருக்கும்; ஒரே ஒரு கட்டளை அதைத் தீர்த்துவிட்டால், ஏஜென்ட்டைத் தவிர்த்துவிடுங்கள். கருவிகள் தோல்வியடையும்போதோ அல்லது உள்ளீடுகள் தெளிவற்றதாக இருக்கும்போதோ, ஏஜென்ட் சுழற்சியில் சிக்காமல் அடுத்த கட்டத்திற்குச் செல்ல, கண்டிப்பான கருவித் திட்டங்கள், படி வரம்புகள், பதிவிடுதல் மற்றும் ஒரு சரிபார்ப்பாளர்/விமர்சகரைச் சேர்க்கவும்.

முக்கிய குறிப்புகள்:

கட்டுப்பாட்டாளர் சுழற்சி: தெளிவான நிறுத்த நிபந்தனைகள் மற்றும் அதிகபட்ச படிகளுடன் உள்ளீடு→செயல்→கவனிப்பு எனும் தொடர்நிகழ்வைச் செயல்படுத்தவும்.

கருவி வடிவமைப்பு: “எதுவும் செய்யும்” குழப்பத்தைத் தடுக்க, கருவிகளைச் சுருக்கமானதாகவும், வகைப்படுத்தப்பட்டதாகவும், அனுமதி அளிக்கப்பட்டதாகவும், சரிபார்க்கப்பட்டதாகவும் வைத்திருங்கள்.

நினைவாற்றல் சுகாதாரம்: குறுகிய கால நிலை மற்றும் நீண்ட கால மீட்டெடுப்பைப் பயன்படுத்தவும்; முழு டிரான்ஸ்கிரிப்டுகளையும் கொட்டுவதைத் தவிர்க்கவும்.

தவறான பயன்பாட்டுத் தடுப்பு: அனுமதிப் பட்டியல்கள், விகித வரம்புகள், ஐடெம்போடென்சி மற்றும் அபாயகரமான செயல்களுக்கான “முன்னோட்டச் சோதனை” ஆகியவற்றைச் சேர்க்கவும்.

சோதனைத்திறன்: ஒரு சூழ்நிலை தொகுப்பை (தோல்விகள், தெளிவின்மை, ஊசிகள்) பராமரித்து ஒவ்வொரு மாற்றத்தையும் மீண்டும் இயக்கவும்.

1) சாதாரண மனிதர்களின் சொற்களில், ஒரு AI முகவர் என்றால் என்ன 🧠

ஒரு AI ஏஜென்ட் என்பது ஒரு சுழற்சி. லாங்செயின் “ஏஜென்ட்கள்” ஆவணங்கள்

அவ்வளவுதான். நடுவில் மூளையுடன் கூடிய ஒரு வளையம்.

உள்ளீடு → சிந்தி → செயல்படு → கவனி → மீண்டும் செய். மறுசெயல்பாட்டுக் கட்டுரை (காரணம் + செயல்)

எங்கே:

• உள்ளீடு என்பது ஒரு பயனர் கோரிக்கை அல்லது ஒரு நிகழ்வு (புதிய மின்னஞ்சல், ஆதரவு டிக்கெட், சென்சார் பிங்).

• சிந்தனை என்பது அடுத்த படியைப் பற்றிய ஒரு மொழி மாதிரி பகுத்தறிவு.

• Act என்பது ஒரு கருவியை அழைக்கிறது (உள் ஆவணங்களைத் தேடுங்கள், குறியீட்டை இயக்குங்கள், ஒரு டிக்கெட்டை உருவாக்குங்கள், ஒரு பதிலை வரையவும்). OpenAI செயல்பாட்டு அழைப்பு வழிகாட்டி.

• Observe கருவி வெளியீட்டைப் படித்துக் கொண்டிருக்கிறது.

• மீண்டும் மீண்டும் வருவதுதான், அதை "அதிகம் பேசும்" தன்மைக்கு பதிலாக "செயல் முகவர்" போல உணர வைக்கிறது. லாங்செயின் "ஏஜென்ட்ஸ்" ஆவணங்கள்

சில முகவர்கள் அடிப்படையில் ஸ்மார்ட் மேக்ரோக்கள். மற்றவர்கள் பணிகளை ஏமாற்றி பிழைகளிலிருந்து மீளக்கூடிய ஒரு இளைய ஆபரேட்டரைப் போல செயல்படுகிறார்கள். இரண்டுமே முக்கியம்.

மேலும், உங்களுக்கு முழு சுயாட்சி தேவையில்லை. உண்மையில்... நீங்கள் அதை விரும்பாமல் இருக்கலாம் 🙃

2) நீங்கள் எப்போது ஒரு முகவரை உருவாக்க வேண்டும் (மற்றும் எப்போது செய்யக்கூடாது) 🚦

ஒரு முகவரை உருவாக்கும்போது:

• இந்த வேலை பல கட்டங்களைக் மற்றும் நடுவில் என்ன நடக்கிறது என்பதைப் பொறுத்து மாறுகிறது.

• இப்பணிக்குக் கருவிகளின் பயன்பாடு (தரவுத்தளங்கள், CRM-கள், குறியீடு செயல்படுத்துதல், கோப்பு உருவாக்கம், உலாவிகள், உள்ளக API-கள்). லாங்செயின் “கருவிகள்” ஆவணங்கள்

• நீங்கள் ஒரு முறை மட்டுமே வரும் பதில்களை விட, தடுப்புச் சுவர்கள் மூலம் மீண்டும் மீண்டும் வரக்கூடிய விளைவுகளையே விரும்புகிறீர்கள்

• ஒரு கணினி சரிபார்க்கக்கூடிய விதத்தில், தளர்வாகக் கூட, "முடிந்தது" என்பதை நீங்கள் வரையறுக்கலாம்.

பின்வரும் சந்தர்ப்பங்களில் ஒரு முகவரை உருவாக்க வேண்டாம்:

• ஒரு எளிய கேள்வி பதில் அதை தீர்க்கும் (அதிகமாக வேலை செய்யாதீர்கள், பின்னர் உங்களை நீங்களே வெறுப்பீர்கள்).

• உங்களுக்கு சரியான தீர்மானம் தேவை (முகவர்கள் சீரானவர்களாக இருக்கலாம், ஆனால் ரோபோவாக இருக்க முடியாது).

• இணைக்க உங்களிடம் எந்த கருவிகளோ அல்லது தரவுகளோ இல்லை - பின்னர் அது பெரும்பாலும் அதிர்வுகள் தான்.

வெளிப்படையாகச் சொல்லணும்னா, பாதி “AI முகவர் திட்டங்களில்” சில கிளை விதிகள் உள்ள ஒரு பணிப்பாய்வாக இருக்கலாம். ஆனா, சில நேரத்துல சூழ்நிலையும் முக்கியம் 🤷♂️

3) ஒரு AI முகவரின் நல்ல பதிப்பை உருவாக்குவது எது ✅

நீங்கள் கேட்ட "நல்ல பதிப்பை உருவாக்குவது எது" பகுதி இங்கே, ஆனால் நான் கொஞ்சம் வெளிப்படையாகச் சொல்வேன்:

ஒரு சிறந்த செயற்கை நுண்ணறிவு முகவர் என்பது அல்ல . அது பின்வருவனவற்றைக் கொண்டது:

• தனக்கு என்ன செய்ய அனுமதிக்கப்பட்டுள்ளது என்பதை அறிந்திருக்கிறது (செயல்பாட்டு வரம்புகள்)

• கருவிகளை நம்பகத்தன்மையுடன் பயன்படுத்துகிறது (கட்டமைக்கப்பட்ட அழைப்புகள், மீண்டும் முயற்சிகள், காலக்கெடு) OpenAI செயல்பாட்டு அழைப்பு வழிகாட்டி AWS “காலக்கெடு, மீண்டும் முயற்சிகள், மற்றும் ஜிட்டருடன் பின்வாங்குதல்”

• நிலையைத் தூய்மையாகப் பராமரிக்கிறது (சிதைவடையாத நினைவகம்) லாங்செயின் “நினைவக மேலோட்டம்”

• அதன் செயல்பாடுகளை விளக்குகிறது (தணிக்கைப் பதிவுகள், இரகசிய பகுத்தறிவுத் தொகுப்புகள் அல்ல) NIST AI RMF 1.0 (நம்பகத்தன்மை மற்றும் வெளிப்படைத்தன்மை)

• முறையாக நிறுத்துகிறது (நிறைவுச் சரிபார்ப்புகள், அதிகபட்ச படிகள், மேல்நிலைப்படுத்துதல்) லாங்செயின் “ஏஜென்ட்கள்” ஆவணங்கள்

• பாதுகாப்பாகத் தோல்வியடைகிறது (உதவி கேட்கிறது, அதிகாரத்தைப் பற்றிய பிரமை கொள்வதில்லை) NIST AI RMF 1.0

• சோதிக்கக்கூடியது (நீங்கள் பதிவு செய்யப்பட்ட காட்சிகள் மற்றும் மதிப்பெண் முடிவுகளில் இதை இயக்கலாம்)

உங்க ஏஜென்ட் சோதிக்கப்படலன்னா, அது ரொம்ப நம்பிக்கையான ஸ்லாட் மெஷின். பார்ட்டிகளில் ஜாலி, தயாரிப்பில் பயங்கரம் 😬

4) ஒரு முகவரின் முக்கிய கட்டுமானத் தொகுதிகள் ("உடற்கூறியல்" 🧩)

பெரும்பாலான திட முகவர்கள் இந்த துண்டுகளைக் கொண்டுள்ளனர்:

A) கட்டுப்படுத்தி வளையம் 🔁

இவர்தான் இசைக்குழுவினர்:

• இலக்கை எடு

• அடுத்த செயலுக்கு மாதிரியைக் கேளுங்கள்

• இயக்கு கருவி

• கவனிப்பைச் சேர்க்கவும்

• முடியும் வரை மீண்டும் செய்யவும் லாங்செயின் “ஏஜென்ட்கள்” ஆவணங்கள்

B) கருவிகள் (அதாவது திறன்கள்) 🧰

கருவிகளே ஒரு ஏஜென்ட்டைத் திறம்படச் செயல்பட வைக்கின்றன: லாங்செயின் “கருவிகள்” ஆவணங்கள்

• தரவுத்தள வினவல்கள்

• மின்னஞ்சல்களை அனுப்புதல்

• கோப்புகளை இழுத்தல்

• இயங்கும் குறியீடு

• உள் APIகளை அழைக்கிறது

• விரிதாள்கள் அல்லது CRM களுக்கு எழுதுதல்

C) நினைவகம் 🗃️

இரண்டு வகைகள் முக்கியம்:

• குறுகிய கால நினைவாற்றல்: தற்போதைய இயக்க சூழல், சமீபத்திய படிகள், தற்போதைய திட்டம்

• நீண்ட கால நினைவகம்: பயனர் விருப்பத்தேர்வுகள், திட்ட சூழல், மீட்டெடுக்கப்பட்ட அறிவு (பெரும்பாலும் உட்பொதிப்புகள் + ஒரு திசையன் சேமிப்பு வழியாக) RAG காகிதம்

D) திட்டமிடல் மற்றும் முடிவெடுக்கும் கொள்கை 🧭

நீங்கள் அதை "திட்டமிடல்" என்று அழைக்காவிட்டாலும், உங்களுக்கு ஒரு முறை தேவை:

• சரிபார்ப்புப் பட்டியல்கள்

• ReAct பாணியிலான “சிந்தித்துப் பின்னர் செயல்படும் கருவி” ReAct ஆய்வறிக்கை

• பணி வரைபடங்கள்

• மேற்பார்வையாளர்-பணியாளர் வடிவங்கள்

• மேற்பார்வையாளர்-பணியாளர் வடிவங்கள் மைக்ரோசாஃப்ட் ஆட்டோஜென் (மல்டி-ஏஜென்ட் கட்டமைப்பு)

E) பாதுகாப்புத் தடுப்புகள் மற்றும் மதிப்பீடு 🧯

• அனுமதிகள்

• பாதுகாப்பான கருவி திட்டங்கள் OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்

• வெளியீட்டு சரிபார்ப்பு

• படி வரம்புகள்

• பதிவு செய்தல்

• NIST AI RMF 1.0 ஐ சோதிக்கிறது

ஆமாம், இது தூண்டுதலை விட பொறியியல் சார்ந்தது. இது... ஒருவிதமான விஷயம்.

5) ஒப்பீட்டு அட்டவணை: ஒரு முகவரை உருவாக்குவதற்கான பிரபலமான வழிகள் 🧾

கீழே ஒரு யதார்த்தமான “ஒப்பீட்டு அட்டவணை” உள்ளது - சில வினோதங்களுடன், ஏனெனில் உண்மையான அணிகள் விசித்திரமானவை 😄

ஒரே ஒரு வெற்றியாளர் இல்லை. உங்கள் முகவரின் முக்கியப் பணி மீட்டெடுத்தல், கருவிச் செயலாக்கம், பல முகவர் ஒருங்கிணைப்புஅல்லது பணிப்பாய்வுத் தானியக்கம்.

6) ஒரு AI முகவரை படிப்படியாக உருவாக்குவது எப்படி (உண்மையான செய்முறை) 🍳🤖

பெரும்பாலான மக்கள் தவிர்க்கும் பகுதி இதுதான், பின்னர் முகவர் ஏன் ஒரு சரக்கறைக்குள் ஒரு ரக்கூன் போல நடந்து கொள்கிறார் என்று ஆச்சரியப்படுகிறார்கள்.

படி 1: வேலையை ஒரே வாக்கியத்தில் வரையறுக்கவும் 🎯

எடுத்துக்காட்டுகள்:

• "கொள்கை மற்றும் டிக்கெட் சூழலைப் பயன்படுத்தி ஒரு வாடிக்கையாளர் பதிலை வரைந்து, பின்னர் ஒப்புதலைக் கேளுங்கள்."

• "ஒரு பிழை அறிக்கையை ஆராய்ந்து, அதை மீண்டும் உருவாக்கி, ஒரு தீர்வை முன்மொழியுங்கள்."

• "முழுமையற்ற சந்திப்புக் குறிப்புகளை பணிகள், உரிமையாளர்கள் மற்றும் காலக்கெடுவாக மாற்றவும்."

உங்களால் அதை எளிமையாக வரையறுக்க முடியாவிட்டால், உங்கள் முகவராலும் முடியாது. நான் சொல்வது அது முடியும், ஆனால் அது மேம்படுத்தும், மேலும் மேம்படுத்தல் என்பது பட்ஜெட்டுகள் இறந்து போகும் இடம்.

படி 2: தன்னாட்சி அளவை முடிவு செய்யுங்கள் (குறைந்த, நடுத்தர, காரமான) 🌶️

• குறைந்த தன்னாட்சி: வழிமுறைகளைப் பரிந்துரைக்கிறது, மனிதர் “ஒப்புதல்” அளிக்கிறார்.

• நடுத்தரம்: கருவிகளை இயக்குகிறது, வெளியீட்டை வரைகிறது, நிச்சயமற்ற தன்மையை அதிகரிக்கிறது.

• உயர்: முழுமையாக செயல்படுத்துகிறது, விதிவிலக்குகளில் மனிதர்களை மட்டுமே பிங் செய்கிறது.

நீங்கள் விரும்புவதை விடக் குறைவாகத் தொடங்குங்கள். நீங்கள் அதை எப்போதும் பின்னர் அதிகரிக்கலாம்.

படி 3: உங்கள் மாதிரி உத்தியைத் தேர்ந்தெடுங்கள் 🧠

நீங்கள் வழக்கமாக தேர்வு செய்வது:

• எல்லாவற்றிற்கும் ஒரு வலுவான மாதிரி (எளிமையானது)

• மலிவான படிகளுக்கு ஒரு வலுவான மாதிரி + சிறிய மாதிரி (வகைப்பாடு, ரூட்டிங்)

• தேவைப்பட்டால் சிறப்பு மாதிரிகள் (பார்வை, குறியீடு, பேச்சு)

மேலும் முடிவு செய்யுங்கள்:

• அதிகபட்ச டோக்கன்கள்

• வெப்பநிலை

• நீங்கள் நீண்ட பகுத்தறிவுத் தடயங்களை உள்நாட்டில் அனுமதிக்கிறீர்களா (உங்களால் முடியும், ஆனால் இறுதிப் பயனர்களுக்கு மூல சிந்தனைச் சங்கிலியை வெளிப்படுத்த வேண்டாம்)

படி 4: கண்டிப்பான திட்டங்களுடன் கருவிகளை வரையறுக்கவும் 🔩

கருவிகள் இருக்க வேண்டும்:

• குறுகிய

• தட்டச்சு செய்யப்பட்டது

• அனுமதிக்கப்பட்டது

• சரிபார்க்கப்பட்ட OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்

do_anything(input: string) எனப்படும் கருவிக்குப் பதிலாக , இதை உருவாக்கவும்:

• search_kb(வினவல்: சரம்) -> முடிவுகள்[]

• create_ticket(தலைப்பு: சரம், உடல்: சரம், முன்னுரிமை: enum) -> டிக்கெட்_ஐடி

• send_email(to: string, subject: string, body: string) -> status OpenAI Function calling guide

நீங்கள் முகவருக்கு ஒரு செயின்சாவைக் கொடுத்தால், அது வேலியையும் அகற்றி ஒரு வேலியை ஒழுங்கமைக்கும்போது அதிர்ச்சியடைய வேண்டாம்.

படி 5: கட்டுப்படுத்தி வளையத்தை உருவாக்குங்கள் 🔁

குறைந்தபட்ச சுழற்சி:

1. இலக்கு + ஆரம்ப சூழலுடன் தொடங்குங்கள்

2. மாதிரியிடம் கேளுங்கள்: “அடுத்த நடவடிக்கை?”

3. கருவி அழைப்பு - கருவியை இயக்கினால்

4. கவனிப்பைச் சேர்க்கவும்

5. நிறுத்த நிலையைச் சரிபார்க்கவும்

6. லாங்செயின் “ஏஜென்ட்கள்” ஆவணங்களை (அதிகபட்ச படிகளுடன்) மீண்டும் செய்யவும்

சேர்:

• காலாவதிகள்

• மீண்டும் முயற்சிகள் (கவனம் - மீண்டும் முயற்சிகள் சுழற்சி முறையில் நிகழலாம்) AWS “காலக்கெடு, மீண்டும் முயற்சிகள், மற்றும் ஜிட்டருடன் கூடிய பின்வாங்கல்”

• கருவி பிழை வடிவமைப்பு (தெளிவானது, கட்டமைக்கப்பட்ட)

படி 6: நினைவகத்தை கவனமாகச் சேர்க்கவும் 🗃️

குறுகிய காலத்திற்கு: ஒவ்வொரு படியிலும் புதுப்பிக்கப்படும் ஒரு சுருக்கமான “நிலைச் சுருக்கத்தை” வைத்திருக்கவும். லாங்செயின் “நினைவக மேலோட்டம்”
நீண்ட காலத்திற்கு: நீடித்த உண்மைகளை (பயனர் விருப்பத்தேர்வுகள், நிறுவன விதிகள், நிலையான ஆவணங்கள்) சேமிக்கவும்.

கட்டைவிரல் விதி:

• அது அடிக்கடி மாறினால் - அதை குறுகிய காலத்திற்கு வைத்திருங்கள்

• அது நிலையானதாக இருந்தால் - நீண்ட காலத்திற்கு சேமிக்கவும்

• அது உணர்திறன் மிக்கதாக இருந்தால் - குறைவாகவே சேமிக்கவும் (அல்லது சேமிக்கவே வேண்டாம்)

படி 7: சரிபார்ப்பு மற்றும் "விமர்சகர்" பாஸைச் சேர்க்கவும் 🧪

மலிவான, நடைமுறை முறை:

• முகவர் முடிவை உருவாக்குகிறார்

• வேலிடேட்டர் கட்டமைப்பு மற்றும் கட்டுப்பாடுகளை சரிபார்க்கிறது

• விடுபட்ட படிகள் அல்லது கொள்கை மீறல்களுக்கான விருப்ப விமர்சகர் மாதிரி மதிப்புரைகள் NIST AI RMF 1.0

சரியானதாக இல்லை, ஆனால் அது அதிர்ச்சியூட்டும் அளவு முட்டாள்தனத்தைப் பிடிக்கிறது.

படி 8: பதிவு செய்யாமல் போனதற்கு வருத்தப்படும் அனைத்தையும் பதிவு செய்யவும் 📜

பதிவு:

• கருவி அழைப்புகள் + உள்ளீடுகள் + வெளியீடுகள்

• எடுக்கப்பட்ட முடிவுகள்

• பிழைகள்

• இறுதி வெளியீடுகள்

• டோக்கன்கள் மற்றும் தாமதம் OpenTelemetry observability ப்ரைமர்

எதிர்காலம் - நீ நன்றி சொல்வாய். நிகழ்காலம் - நீ மறந்து விடுவாய். அதுதான் வாழ்க்கை 😵💫

7) உங்கள் ஆன்மாவை உடைக்காத கருவி அழைப்பு 🧰😵

கருவி அழைப்பு என்பது "ஒரு AI முகவரை எவ்வாறு உருவாக்குவது" என்பது உண்மையான மென்பொருள் பொறியியலாக மாறும் இடமாகும்.

கருவிகளை நம்பகமானதாக ஆக்குங்கள் (நம்பகமானது நல்லது)

நம்பகமான கருவிகள் பின்வருமாறு:

• தீர்மானகரமான

• குறுகிய நோக்கம் கொண்ட

• சோதிக்க எளிதானது

• ஸ்ட்ரைப்பின் “ஐடெம்போடென்ட் கோரிக்கைகளை” மீண்டும் இயக்குவது பாதுகாப்பானது.

கருவி அடுக்கில் பாதுகாப்புத் தண்டவாளங்களைச் சேர்க்கவும், வெறும் குறிப்புகளைச் சேர்க்காமல்

அறிவுறுத்தல்கள் என்பது கண்ணியமான பரிந்துரைகள். கருவி சரிபார்ப்பு என்பது பூட்டிய கதவு. OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்.

செய்:

• அனுமதிப் பட்டியல்கள் (எந்தக் கருவிகளை இயக்க முடியும்)

• உள்ளீட்டு சரிபார்ப்பு

• விகித வரம்புகள் OpenAI விகித வரம்புகள் வழிகாட்டி

• பயனர்/org க்கு அனுமதி சோதனைகள்

• ஆபத்தான செயல்களுக்கு "உலர்-ரன் பயன்முறை"

பகுதியளவு தோல்விக்கான வடிவமைப்பு

கருவிகள் தோல்வியடைகின்றன. நெட்வொர்க்குகள் தடுமாறுகின்றன. அங்கீகாரம் காலாவதியாகிறது. ஒரு முகவர் கண்டிப்பாக:

• பிழைகளை விளக்குதல்

• பொருத்தமான போது பின்சேமிப்புடன் மீண்டும் முயற்சிக்கவும் Google Cloud மறுசேமிப்பு உத்தி (பின்சேமிப்பு + நடுக்கம்)

• மாற்று கருவிகளைத் தேர்வுசெய்க

• சிக்கிக் கொள்ளும்போது அதிகரிக்கும்

அமைதியான பயனுள்ள தந்திரம்: இது போன்ற கட்டமைக்கப்பட்ட பிழைகளைத் திருப்பி அனுப்புதல்:

• வகை: auth_error

• வகை: not_found

• வகை: விகிதம்_வரையறுக்கப்பட்டது
  எனவே மாதிரி பீதி அடைவதற்குப் பதிலாக புத்திசாலித்தனமாக பதிலளிக்க முடியும்.

8) உங்களை வேட்டையாடுவதற்கு பதிலாக உதவும் நினைவகம் 👻🗂️

நினைவாற்றல் சக்தி வாய்ந்தது, ஆனால் அது குப்பைகளை எடுத்துச் செல்லும் இடமாகவும் மாறக்கூடும்.

குறுகிய கால நினைவாற்றல்: அதை சுருக்கமாக வைத்திருங்கள்

பயன்படுத்தவும்:

• கடைசி N படிகள்

• இயங்கும் சுருக்கம் (ஒவ்வொரு சுழற்சியிலும் புதுப்பிக்கப்பட்டது)

• தற்போதைய திட்டம்

• தற்போதைய கட்டுப்பாடுகள் (பட்ஜெட், நேரம், கொள்கைகள்)

நீங்கள் எல்லாவற்றையும் சூழலில் சேர்த்தால், உங்களுக்குக் கிடைக்கும்:

• அதிக செலவு

• மெதுவான தாமதம்

• அதிக குழப்பம் (ஆம், அப்போதும் கூட)

நீண்ட கால நினைவாற்றல்: "நிரப்புதல்" மூலம் மீட்டெடுப்பு

பெரும்பாலான "நீண்ட கால நினைவகம்" இதைப் போன்றது:

• உட்பொதிப்புகள்

• திசையன் சேமிப்பு

• மீட்டெடுப்பு ஆக்மென்டட் ஜெனரேஷன் (RAG) RAG பேப்பர்

ஏஜென்ட் நினைவில் கொள்வதில்லை. அது இயங்கும் நேரத்தில் மிகவும் பொருத்தமான துணுக்குகளை மீட்டெடுக்கிறது. லாமாஇண்டெக்ஸ் “RAG-க்கான அறிமுகம்”

நடைமுறை நினைவாற்றல் விதிகள்

• "விருப்பத்தேர்வுகளை" வெளிப்படையான உண்மைகளாகச் சேமிக்கவும்: "பயனர் புல்லட் சுருக்கங்களை விரும்புகிறார், எமோஜிகளை வெறுக்கிறார்" (ஹால், இங்கே இல்லை 😄)

• நேர முத்திரைகள் அல்லது பதிப்புகளுடன் "முடிவுகளை" சேமிக்கவும் (இல்லையெனில் முரண்பாடுகள் குவிந்துவிடும்)

• உண்மையிலேயே அவசியம் இல்லாவிட்டால் ஒருபோதும் ரகசியங்களைச் சேமிக்காதீர்கள்

இதோ என்னுடைய அபூரண உருவகம்: நினைவகம் ஒரு குளிர்சாதன பெட்டி போன்றது. நீங்கள் அதை ஒருபோதும் சுத்தம் செய்யாவிட்டால், இறுதியில் உங்கள் சாண்ட்விச் வெங்காயம் மற்றும் வருத்தத்தைப் போல சுவைக்காது.

9) திட்டமிடல் முறைகள் (எளிமையானது முதல் ஆடம்பரமானது வரை) 🧭✨

திட்டமிடல் என்பது கட்டுப்படுத்தப்பட்ட சிதைவு மட்டுமே. அதை மாயமாக்காதீர்கள்.

பேட்டர்ன் A: சரிபார்ப்புப் பட்டியல் திட்டமிடுபவர் ✅

• மாதிரி படிகளின் பட்டியலை வெளியிடுகிறது

• படிப்படியாக செயல்படுத்துகிறது

• சரிபார்ப்புப் பட்டியல் நிலையைப் புதுப்பிக்கிறது

ஆன்போர்டிங்கிற்கு சிறந்தது. எளிமையானது, சோதிக்கக்கூடியது.

பேட்டர்ன் பி: ரீஆக்ட் லூப் (காரணம் + செயல்) 🧠→🧰

• அடுத்த கருவி அழைப்பை மாதிரி தீர்மானிக்கிறது

• வெளியீட்டைக் கவனிக்கிறது

• ரியாக்ட் தாளை மீண்டும் கூறுகிறது

இதுதான் உன்னதமான முகவர் உணர்வு.

பேட்டர்ன் சி: மேற்பார்வையாளர்-பணியாளர் 👥

• மேற்பார்வையாளர் இலக்கை பணிகளாகப் பிரிக்கிறார்

• தொழிலாளர்கள் சிறப்புப் பணிகளைச் செய்கிறார்கள்

• மேற்பார்வையாளர் முடிவுகளை இணைக்கிறார் Microsoft AutoGen (மல்டி-ஏஜென்ட் கட்டமைப்பு)

பணிகள் இணையாகச் செய்யக்கூடியதாக இருக்கும்போது அல்லது நீங்கள் வெவ்வேறு "பங்குகளை" விரும்பும் போது இது மதிப்புமிக்கது:

• ஆராய்ச்சியாளர்

• குறியீட்டாளர்

• ஆசிரியர்

• QA சரிபார்ப்பு

பேட்டர்ன் டி: மீண்டும் திட்டமிடுவதன் மூலம் திட்டமிட்டு செயல்படுத்தவும் 🔄

• திட்டத்தை உருவாக்கு

• செயல்படுத்து

• கருவி முடிவுகள் யதார்த்தத்தை மாற்றினால், மீண்டும் திட்டமிடுங்கள்

இது முகவர் ஒரு மோசமான திட்டத்தை பிடிவாதமாகப் பின்பற்றுவதைத் தடுக்கிறது. மனிதர்கள் சோர்வடையாவிட்டால் இதைச் செய்கிறார்கள், அந்த விஷயத்தில் அவர்கள் மோசமான திட்டங்களையும் பின்பற்றுகிறார்கள்.

10) பாதுகாப்பு, நம்பகத்தன்மை மற்றும் பணிநீக்கம் செய்யப்படாமல் இருத்தல் 🔐😅

உங்கள் முகவரால் நடவடிக்கைகளை எடுக்க முடியுமானால், உங்களுக்குப் பாதுகாப்பு வடிவமைப்பு தேவை. அது 'இருந்தால் நல்லது' என்பதல்ல. அவசியம். NIST AI RMF 1.0

கடுமையான வரம்புகள்

• ஒரு ஓட்டத்திற்கு அதிகபட்ச படிகள்

• நிமிடத்திற்கு அதிகபட்ச கருவி அழைப்புகள்

• ஒரு அமர்வுக்கு அதிகபட்ச செலவு (டோக்கன் பட்ஜெட்)

• ஒப்புதலுக்குப் பின்னால் உள்ள கட்டுப்படுத்தப்பட்ட கருவிகள்

தரவு கையாளுதல்

• பதிவு செய்வதற்கு முன் முக்கியமான உள்ளீடுகளை திருத்தவும்

• தனி சூழல்கள் (மேம்பாட்டாளர் vs உற்பத்தி)

• குறைந்த-சலுகை கருவி அனுமதிகள்

நடத்தை கட்டுப்பாடுகள்

• முகவரை உள் சான்றுத் துணுக்குகளை மேற்கோள் காட்ட கட்டாயப்படுத்துதல் (வெளிப்புற இணைப்புகள் அல்ல, உள் குறிப்புகள் மட்டுமே)

• நம்பிக்கை குறைவாக இருக்கும்போது நிச்சயமற்ற தன்மை கொடிகள் தேவை

• உள்ளீடுகள் தெளிவற்றதாக இருந்தால் "தெளிவுபடுத்தும் கேள்வியைக் கேளுங்கள்" என்று கேட்க வேண்டும்

நம்பகமான முகவர் என்பவர் மிகவும் நம்பிக்கையானவர் அல்ல. அவர் எப்போது யூகிக்க வேண்டும் என்பதை அறிந்து... அப்படிச் சொல்பவர்.

11) சோதனை மற்றும் மதிப்பீடு (அனைவரும் தவிர்க்கும் பகுதி) 🧪📏

உங்களால் அளவிட முடியாததை உங்களால் மேம்படுத்த முடியாது. ஆமாம், அந்த வரி அபத்தமானது, ஆனால் அது எரிச்சலூட்டும் அளவுக்கு உண்மை.

ஒரு காட்சி தொகுப்பை உருவாக்குங்கள்

30-100 சோதனை வழக்குகளை உருவாக்குங்கள்:

• மகிழ்ச்சியான பாதைகள்

• விளிம்புப் பெட்டிகள்

• "கருவி தோல்வியடைந்த" வழக்குகள்

• தெளிவற்ற கோரிக்கைகள்

• எதிர்ப்புக் கட்டளைகள் (தூண்டுதல் செருகல் முயற்சிகள்) OWASP LLM விண்ணப்பங்களுக்கான முதல் 10 OWASP LLM01 தூண்டுதல் செருகல்

மதிப்பெண் முடிவுகள்

இது போன்ற அளவீடுகளைப் பயன்படுத்தவும்:

• பணி வெற்றி விகிதம்

• முடிக்க வேண்டிய நேரம்

• கருவி பிழை மீட்பு விகிதம்

• மாயத்தோற்ற விகிதம் (ஆதாரம் இல்லாத கூற்றுகள்)

• மனித ஒப்புதல் விகிதம் (மேற்பார்வை பயன்முறையில் இருந்தால்)

தூண்டுதல்கள் மற்றும் கருவிகளுக்கான பின்னடைவு சோதனைகள்

நீங்கள் எப்போது மாறினாலும்:

• கருவித் திட்டம்

• கணினி வழிமுறைகள்

• மீட்டெடுப்பு தர்க்கம்

• நினைவக வடிவம்
  தொகுப்பை மீண்டும் இயக்கவும்.

முகவர்கள் உணர்திறன் மிக்க மிருகங்கள். வீட்டு தாவரங்களைப் போல, ஆனால் விலை அதிகம்.

12) உங்கள் பட்ஜெட்டை உருகாத வரிசைப்படுத்தல் முறைகள் 💸🔥

ஒரே ஒரு சேவையுடன் தொடங்குங்கள்

• முகவர் கட்டுப்படுத்தி API

• அதன் பின்னால் உள்ள கருவி சேவைகள்

• பதிவு செய்தல் + கண்காணிப்பு OpenTelemetry observability ப்ரைமர்

செலவுக் கட்டுப்பாடுகளை முன்கூட்டியே சேர்க்கவும்

• தற்காலிக சேமிப்பு மீட்பு முடிவுகள்

• உரையாடல் நிலையை சுருக்கங்களுடன் சுருக்குதல்

• ரூட்டிங் மற்றும் பிரித்தெடுப்பதற்கு சிறிய மாதிரிகளைப் பயன்படுத்துதல்

• "ஆழ்ந்த சிந்தனை முறையை" கடினமான படிகளுக்கு மட்டுப்படுத்துதல்

பொதுவான கட்டிடக்கலை தேர்வு

• நிலையற்ற கட்டுப்படுத்தி + வெளிப்புற நிலை ஸ்டோர் (DB/redis)

• கருவி அழைப்புகள் இயன்றவரை ஐடெம்போடென்ட் ஆக இருக்கும் ஸ்ட்ரைப் “ஐடெம்போடென்ட் கோரிக்கைகள்”

• நீண்ட பணிகளுக்காக வரிசையில் நிற்கவும் (எனவே நீங்கள் ஒரு வலை கோரிக்கையை எப்போதும் திறந்து வைத்திருக்க மாட்டீர்கள்)

மேலும்: ஒரு "கில் ஸ்விட்சை" உருவாக்குங்கள். உங்களுக்கு உண்மையிலேயே அது தேவைப்படும் வரை உங்களுக்கு அது தேவையில்லை 😬

13) இறுதிக் குறிப்புகள் - ஒரு AI முகவரை எவ்வாறு உருவாக்குவது என்பதற்கான சிறு பதிப்பு 🎁🤖

வேறு எதுவும் நினைவில் இல்லை என்றால், இதை நினைவில் கொள்ளுங்கள்:

• ஒரு AI ஏஜென்ட்டை உருவாக்குவது எப்படி என்பது பெரும்பாலும் ஒரு மாடலைச் சுற்றி ஒரு பாதுகாப்பான சுழற்சியை உருவாக்குவதைப் பற்றியது. லாங்செயின் “ஏஜென்ட்கள்” ஆவணங்கள்

• தெளிவான இலக்கு, குறைந்த சுயாட்சி மற்றும் கண்டிப்பான கருவிகளுடன் தொடங்குங்கள். OpenAI கட்டமைக்கப்பட்ட வெளியீடுகள்

• முடிவில்லா சூழல் நிரப்புதல் அல்ல, மீட்டெடுப்பு மூலம் நினைவகத்தைச் சேர்க்கவும். RAG காகிதம்.

• திட்டமிடல் எளிமையாக இருக்கலாம் - சரிபார்ப்புப் பட்டியல்களும் மறு திட்டமிடலும் வெகுதூரம் செல்லச் செல்கின்றன.

• பதிவு செய்தல் மற்றும் சோதனைகள் முகவர் குழப்பத்தை நீங்கள் அனுப்பக்கூடிய ஒன்றாக மாற்றுகின்றன. OpenTelemetry observability primer

• கார்ட்ரெயில்கள் வெறும் குறிப்புகளில் மட்டுமல்ல, குறியீட்டிலும் அடங்கும். LLM பயன்பாடுகளுக்கான OWASP டாப் 10

ஒரு முகவர் மாயாஜாலம் அல்ல. அது மதிப்புமிக்கதாக இருக்க போதுமான அளவு நல்ல முடிவுகளை எடுக்கும் ஒரு அமைப்பு... சேதத்தை ஏற்படுத்துவதற்கு முன்பு தோல்வியை ஒப்புக்கொள்கிறது. ஒரு வகையில் அமைதியாக ஆறுதல் அளிக்கிறது 😌

ஆமாம், நீங்கள் அதை சரியாக உருவாக்கினால், அது ஒருபோதும் தூங்காத, எப்போதாவது பீதியடையும், மற்றும் காகித வேலைகளை விரும்பும் ஒரு சிறிய டிஜிட்டல் பயிற்சியாளரை பணியமர்த்துவது போன்ற உணர்வை ஏற்படுத்துகிறது. எனவே, அடிப்படையில் ஒரு பயிற்சியாளர்.

நிஜ உலக உதாரணம்: ஆதரவு வகைப்படுத்தும் AI முகவரை உருவாக்குதல் 🎫🤖

சூழ்நிலை

ஒரு சிறிய SaaS குழு வாரத்திற்கு 120-180 ஆதரவு டிக்கெட்டுகளைப் பெறுவதாகக் கற்பனை செய்து பாருங்கள். பெரும்பாலான டிக்கெட்டுகள் சிக்கலானவை அல்ல, ஆனாலும் அவை நேரத்தை எடுத்துக்கொள்கின்றன: கடவுச்சொல் மீட்டமைப்புகள், கட்டணம் தொடர்பான கேள்விகள், பிழை அறிக்கைகள், புதிய அம்சங்களுக்கான கோரிக்கைகள், மற்றும் "இது எதிர்பார்க்கப்பட்ட செயல்பாடா?" போன்ற செய்திகள்.

ஒரு சாதாரண சாட்பாட்டால் பதில்களை வரைவு செய்ய முடியும், ஆனால் அதனால் கணக்கின் நிலையை நம்பகத்தன்மையுடன் சரிபார்க்கவோ, அறிவுத் தளத்தில் தேடவோ, அவசரத்தை வகைப்படுத்தவோ, அல்லது எப்போது ஒரு மனிதர் தலையிட வேண்டும் என்பதைத் தீர்மானிக்கவோ முடியாது. இந்த இடத்தில்தான் ஒரு முகவரின் தேவை பொருத்தமாகிறது.

ஆதரவை முழுமையாக மாற்றுவது இதன் நோக்கம் அல்ல. ஒரு புதிய டிக்கெட்டைப் படித்து, அதன் பின்னணியைச் சேகரித்து, ஒரு பதிலை வரைந்து, அந்த டிக்கெட்டைச் சரியான வரிசைக்கு அனுப்பும், குறைந்த தன்னாட்சி கொண்ட ஒரு முகவரை உருவாக்குவதே இதன் நோக்கம். வாடிக்கையாளர் சார்ந்த எதற்கும் ஒரு மனிதரே ஒப்புதல் அளிக்கிறார்.

உதவியாளருக்கு என்ன தேவை

பாதுகாப்பாகச் செயல்படுவதற்கு, அந்த முகவருக்குக் குறைவான, கட்டுப்படுத்தப்பட்ட உள்ளீடுகள் மற்றும் கருவிகளின் தொகுப்பு தேவைப்படுகிறது:

• உள்வரும் டிக்கெட் உரை

• வாடிக்கையாளர் திட்ட வகை, கணக்கின் வயது மற்றும் சமீபத்திய கட்டண நிலை

• சமீபத்திய தயாரிப்பு மாற்றப் பதிவு அல்லது அறியப்பட்ட சம்பவங்கள்

• உள் உதவி மையக் கட்டுரைகள்

• வரையறுக்கப்பட்ட புலங்களைக் கொண்ட டிக்கெட் புதுப்பிப்பு கருவி

• இது ஒரு வரைவுப் பதில் கருவி, மின்னஞ்சல் அனுப்பும் கருவி அல்ல

• தெளிவான மேல்நிலைப்படுத்தல் கொள்கை

கருவிப் பட்டியல் வேண்டுமென்றே குறுகியதாக இருக்க வேண்டும்:

• தேடல்_உதவி_மையம்(வினவல்)

• get_customer_status(customer_id)

• அறியப்பட்ட சம்பவங்களைச் சரிபார்க்கவும் (தயாரிப்புப் பகுதி)

• update_ticket_category(ticket_id, category, priority)

• வரைவு_பதில்(டிக்கெட்_ஐடி, பதில்_உரை)

• escalate_to_human(ticket_id, reason)

இதில் என்ன இல்லை என்பதைக் கவனியுங்கள்: “வாடிக்கையாளருக்குப் பணத்தைத் திருப்பியளித்தல்”, “கணக்கை மூடுதல்”, அல்லது “இறுதிப் பதிலை அனுப்புதல்” போன்ற கருவிகள் இல்லை. அந்தச் செயல்பாடுகள் முதல் பதிப்பிற்கு மிகவும் அபாயகரமானவை.

எடுத்துக்காட்டு அறிவுறுத்தல்

நீங்கள் ஒரு SaaS தயாரிப்புக்கான ஆதரவு வகைப்படுத்தும் முகவர்.

வரும் புகார்களை வகைப்படுத்துவது, தேவையான சூழல் தகவல்களை மட்டும் சேகரிப்பது, ஒரு பரிந்துரைக்கப்பட்ட பதிலை வரைவது, மற்றும் அந்தப் புகாரை அடுத்த கட்டத்திற்கு எடுத்துச் செல்ல வேண்டுமா என்பதை முடிவு செய்வது ஆகியவை உங்கள் பணியாகும்.

விதிகள்:

வாடிக்கையாளர்களுக்கு நேரடியாகப் பதில்களை அனுப்ப வேண்டாம்.

தயாரிப்பு தொடர்பான கேள்விகளுக்குப் பதிலளிக்கும் முன், உதவி மையத்தைப் பயன்படுத்தவும்.

கட்டணம், திட்டம் அல்லது அணுகல் தொடர்பான கேள்விகளுக்குப் பதிலளிக்கும் முன் வாடிக்கையாளரின் நிலையைச் சரிபார்க்கவும்.

வாடிக்கையாளர் சட்டரீதியான அச்சுறுத்தல்கள், தரவு இழப்பு, பாதுகாப்புச் சிக்கல்கள், பணம் செலுத்துவதில் தோல்வி, கணக்கு ரத்து, அல்லது கோபமான மொழி போன்றவற்றைக் குறிப்பிட்டால், ஒரு மனிதரிடம் விஷயத்தைக் கொண்டு செல்லவும்.

பெறப்பட்ட உதவி மைய உள்ளடக்கம் அல்லது கணக்குத் தரவுகளில் பதில் இடம்பெறவில்லை என்றால், என்ன விடுபட்டுள்ளது என்பதைக் கூறி, மேல் அதிகாரிகளுக்குப் புகாரளிக்கவும்.

அதிகபட்சம் 6 கருவி அழைப்புகளுக்குப் பிறகு நிறுத்தவும்.

ஒரு டிக்கெட்டுக்கு வகை, முன்னுரிமை, ஆதாரச் சுருக்கம், பதில் வரைவு மற்றும் "மனித ஒப்புதல் தேவை" அல்லது "மேல்நிலைக்கு அனுப்பப்பட்டது" ஆகியன இருக்கும்போது மட்டுமே அது "முடிக்கப்பட்டது" எனக் கருதப்படுகிறது.

அதை எப்படி சோதிப்பது

நேரடிப் பயனர்களுடன் இணைப்பதற்கு முன், 30 சோதனை டிக்கெட்டுகளுடன் தொடங்கவும்:

• கடவுச்சொல் மீட்டமைப்பு, திட்ட வரம்புகள் மற்றும் "நான் இதை எப்படிச் செய்வது?" போன்ற அடிப்படை கேள்விகள் அடங்கிய 10 சாதாரண டிக்கெட்டுகள்

• 5 பில்லிங் டிக்கெட்டுகள்

• 5 பிழை அறிக்கைகள்

• தகவல் விடுபட்ட 5 தெளிவற்ற டிக்கெட்டுகள்

• பாதுகாப்புக் கவலைகள், பணத்தைத் திரும்பக் கோருதல் மற்றும் கோபமான புகார்கள் போன்ற 5 அபாயகரமான டிக்கெட்டுகள்

ஒவ்வொரு டிக்கெட்டுக்குமான மதிப்பெண்:

• அது சரியான வகையைத் தேர்ந்தெடுத்ததா?

• பதிலளிப்பதற்கு முன் அது சரியான கருவியைப் பயன்படுத்தியதா?

• அது ஆதாரமற்ற கூற்றுகளைத் தவிர்த்ததா?

• அது அபாயகரமான டிக்கெட்டுகளை அதிகரித்ததா?

• வரைவுக்குக் கடுமையான திருத்தங்கள் தேவைப்பட்டதா?

தொடக்கத்தில் ஒரு எளிய தேர்ச்சி/தோல்வி விரிதாள் போதுமானது. அந்த ஏஜென்ட் பயனுள்ள சேவையை வழங்குகிறதா என்பதை நீங்கள் அறிந்துகொள்ளும் முன், மதிப்பீட்டு அமைப்பைத் தேவைக்கு அதிகமாக உருவாக்க வேண்டாம்.

முடிவு

விளக்க முடிவு: இந்த பணிப்பாய்வைப் பயன்படுத்துவதற்கு முன்பும் பின்பும் 30 மாதிரி டிக்கெட்டுகளின் நேரத்தைக் கணக்கிடுவதன் அடிப்படையில், ஒரு ஆதரவுத் தலைவர் பின்வருவனவற்றை அளவிட முடியும்:

• ஒவ்வொரு டிக்கெட்டிற்குமான சராசரி முதல் வகைப்படுத்தல் நேரம் 6 நிமிடங்களிலிருந்து 90 வினாடிகளாகக் குறைக்கப்பட்டுள்ளது

• 3 மணி நேரத்திற்குப் பதிலாக 45 நிமிடங்களில் 30 டிக்கெட்டுகள் வகைப்படுத்தப்பட்டன

• 30 டிக்கெட்டுகளில் 27 சரியான பிரிவில் வைக்கப்பட்டன

• அபாயகரமான 5 புகார்களில் 5-ம் சரியாக மேல் அதிகாரிகளுக்குக் கொண்டு செல்லப்பட்டன

• மனித ஒப்புதல் இல்லாமல் அனுப்பப்பட்ட 0 வாடிக்கையாளர் பதில்கள்

இந்த எண்கள் ஒரு எடுத்துக்காட்டு மதிப்பீடு மட்டுமே, நிரூபிக்கப்பட்ட அளவுகோல் அல்ல. இந்த அளவீட்டை மீண்டும் செய்வது எளிது: அதே தொகுதி சோதனை டிக்கெட்டுகளின் நேரத்தை கைமுறையாகக் கணக்கிட்டு, பின்னர் அவற்றை ஏஜென்ட் மூலம் இயக்கி, வகை துல்லியம், மேல்நிலைப்படுத்தல் துல்லியம் மற்றும் திருத்தும் நேரம் ஆகியவற்றை ஒப்பிட்டுப் பாருங்கள்.

என்ன தவறு நடக்கக்கூடும்?

அந்த ஏஜென்ட் மிகவும் இயல்பான வழிகளிலும் தோல்வியடையலாம்.

விரக்தியடைந்த ஆனால் எளிமையான ஒரு வாடிக்கையாளரின் மொழி கோபமாக ஒலிப்பதால், அது அவரை 'அவசரமானவர்' என வகைப்படுத்தக்கூடும். காலாவதியான ஒரு உதவிக் கட்டுரையிலிருந்து அது ஒரு நம்பிக்கையான பதிலை உருவாக்கக்கூடும். சரியான நடவடிக்கை அடுத்த கட்டத்திற்கு எடுத்துச் செல்வதாக இருக்கும்போது, ​​அது தொடர்ந்து தேடிக்கொண்டிருக்கக்கூடும். ஒரு பதில் வரைவில் அது கணக்கின் அதிகப்படியான விவரங்களை வெளிப்படுத்தக்கூடும்.

“ஒரு சிறந்த கட்டளையை எழுதிவிட்டு” நம்புவது தீர்வு அல்ல. கடுமையான வரம்புகளைச் சேர்க்கவும்:

• கட்டணம், பாதுகாப்பு, சட்டம் அல்லது ரத்துசெய்தல் தொடர்பான வாசகங்கள் தோன்றும்போது மேல் அதிகாரிகளுக்குத் தெரிவிக்கவும்

• ஆதாரச் சுருக்கத்தில் உள்ளக உதவிக் கட்டுரைகளிலிருந்து மேற்கோள்கள் தேவைப்பட வேண்டும்

• "பதில் அனுப்பு" என்பதை மனித ஒப்புதலுக்குப் பிறகு வைத்திருக்கவும்

• ஒவ்வொரு கருவி அழைப்பையும் இறுதி வரைவையும் பதிவு செய்யவும்

• ஒவ்வொரு அறிவிப்பு, கருவி அல்லது கொள்கை மாற்றத்திற்குப் பிறகும் 30-டிக்கெட் சோதனைத் தொகுப்பை மீண்டும் இயக்கவும்

நடைமுறைப் பாடம்

ஒரு மதிப்புமிக்க ஏஜென்ட்டிற்கு அதீத தன்னாட்சி தேவையில்லை. இந்த எடுத்துக்காட்டில், அதன் மதிப்பு ஒரு கட்டுப்படுத்தப்பட்ட சுழற்சியிலிருந்து வருகிறது: டிக்கெட்டைப் படித்தல், சரியான சூழலைப் பெறுதல், அதை வகைப்படுத்துதல், ஒரு பதிலை வரைதல், மற்றும் மதிப்பாய்வுக்காக நிறுத்துதல். ஒரே ஒரு பெரிய கட்டளை மூலம் "ஆதரவுப் பணிகளைக் கையாள" முயற்சிக்கும் ஒரு ஏஜென்ட்டைக் காட்டிலும், இதை நம்புவதும், சோதிப்பதும், மேம்படுத்துவதும் மிகவும் எளிதானது.

அடிக்கடி கேட்கப்படும் கேள்விகள்

எளிமையான சொற்களில் AI முகவர் என்றால் என்ன?

ஒரு AI முகவர் என்பது அடிப்படையில் மீண்டும் மீண்டும் நிகழும் ஒரு வளையமாகும்: உள்ளீட்டை எடுத்துக் கொள்ளுங்கள், அடுத்த படியை முடிவு செய்யுங்கள், ஒரு கருவியைப் பயன்படுத்தவும், முடிவைப் படிக்கவும், அது முடியும் வரை மீண்டும் செய்யவும். "முகவர்" பகுதி வெறும் அரட்டையடிப்பதில் இருந்து அல்ல, நடிப்பு மற்றும் கவனிப்பதில் இருந்து வருகிறது. பல முகவர்கள் கருவி அணுகலுடன் கூடிய ஸ்மார்ட் ஆட்டோமேஷன் மட்டுமே, மற்றவர்கள் பிழைகளிலிருந்து மீளக்கூடிய ஒரு இளைய ஆபரேட்டரைப் போல நடந்து கொள்கிறார்கள்.

வெறும் ப்ராம்ட்டைப் பயன்படுத்துவதற்குப் பதிலாக எப்போது AI முகவரை உருவாக்க வேண்டும்?

வேலை பல-படிநிலையாக இருக்கும்போது, ​​இடைநிலை முடிவுகளின் அடிப்படையில் மாறும்போது, ​​நம்பகமான கருவி பயன்பாடு (APIகள், தரவுத்தளங்கள், டிக்கெட்டிங், குறியீடு செயல்படுத்தல்) தேவைப்படும்போது ஒரு முகவரை உருவாக்குங்கள். பாதுகாப்புத் தண்டவாளங்கள் மற்றும் "முடிந்தது" என்பதைச் சரிபார்க்க ஒரு வழியுடன் மீண்டும் மீண்டும் செய்யக்கூடிய விளைவுகளை நீங்கள் விரும்பும் போது முகவர்கள் பயனுள்ளதாக இருக்கும். ஒரு எளிய உடனடி-பதில் வேலை செய்தால், ஒரு முகவர் பொதுவாக தேவையற்ற மேல்நிலை மற்றும் கூடுதல் தோல்வி முறைகளாக இருப்பார்.

சுழல்களில் சிக்கிக் கொள்ளாத ஒரு AI முகவரை எவ்வாறு உருவாக்குவது?

கடின நிறுத்த நிபந்தனைகளைப் பயன்படுத்தவும்: அதிகபட்ச படிகள், அதிகபட்ச கருவி அழைப்புகள் மற்றும் தெளிவான நிறைவு சரிபார்ப்புகள். கட்டமைக்கப்பட்ட கருவி திட்டங்கள், காலக்கெடு மற்றும் எப்போதும் மீண்டும் முயற்சிக்காத மறு முயற்சிகளைச் சேர்க்கவும். முடிவுகள் மற்றும் கருவி வெளியீடுகளைப் பதிவுசெய்து, அது எங்கு தடம் புரள்கிறது என்பதை நீங்கள் பார்க்கலாம். பொதுவான பாதுகாப்பு வால்வு என்பது அதிகரிப்பு: முகவர் நிச்சயமற்றவராக இருந்தால் அல்லது பிழைகளை மீண்டும் செய்தால், அது மேம்படுத்துவதற்குப் பதிலாக உதவி கேட்க வேண்டும்.

ஒரு AI முகவரை எவ்வாறு உருவாக்குவது என்பதற்கான குறைந்தபட்ச கட்டமைப்பு என்ன?

குறைந்தபட்சம், மாதிரிக்கு ஒரு குறிக்கோளையும் சூழலையும் அளிக்கும், அடுத்த செயலைக் கேட்கும், கோரப்பட்டால் ஒரு கருவியைச் செயல்படுத்தும், கவனிப்பைச் சேர்க்கும் மற்றும் மீண்டும் செய்யும் ஒரு கட்டுப்படுத்தி வளையம் உங்களுக்குத் தேவை. கடுமையான உள்ளீடு/வெளியீட்டு வடிவங்கள் மற்றும் "முடிந்தது" சரிபார்ப்பு கொண்ட கருவிகளும் உங்களுக்குத் தேவை. நீங்கள் நிலையை சுத்தமாக வைத்திருந்து படி வரம்புகளைச் செயல்படுத்தினால், உங்கள் சொந்தமாகச் செய்யும் வளையம் கூட நன்றாக வேலை செய்யும்.

உற்பத்தியில் நம்பகமானதாக இருக்க, கருவி அழைப்பை எவ்வாறு வடிவமைப்பது?

கருவிகளை குறுகியதாகவும், தட்டச்சு செய்யப்பட்டதாகவும், அனுமதிக்கப்பட்டதாகவும், சரிபார்க்கப்பட்டதாகவும் வைத்திருங்கள் - பொதுவான “எதையும்_செய்” கருவியைத் தவிர்க்கவும். முகவர் உள்ளீடுகளை கையால் அசைக்க முடியாதபடி கடுமையான ஸ்கீமாக்களை (கட்டமைக்கப்பட்ட வெளியீடுகள்/செயல்பாட்டு அழைப்பு போன்றவை) விரும்புங்கள். கருவி அடுக்கில் அனுமதிப் பட்டியல்கள், விகித வரம்புகள் மற்றும் பயனர்/org அனுமதி சரிபார்ப்புகளைச் சேர்க்கவும். ஐடிம்போடென்சி வடிவங்களைப் பயன்படுத்தி, முடிந்தவரை மீண்டும் இயக்க பாதுகாப்பாக இருக்கும் வகையில் கருவிகளை வடிவமைக்கவும்.

முகவரை மோசமாக்காமல் நினைவகத்தைச் சேர்க்க சிறந்த வழி எது?

நினைவகத்தை இரண்டு பகுதிகளாகக் கருதுங்கள்: குறுகிய கால இயக்க நிலை (சமீபத்திய படிகள், தற்போதைய திட்டம், கட்டுப்பாடுகள்) மற்றும் நீண்ட கால மீட்டெடுப்பு (விருப்பத்தேர்வுகள், நிலையான விதிகள், தொடர்புடைய ஆவணங்கள்). முழு டிரான்ஸ்கிரிப்டுகளுடன் அல்லாமல், இயங்கும் சுருக்கங்களுடன் குறுகிய கால சுருக்கத்தை வைத்திருங்கள். நீண்ட கால நினைவகத்திற்கு, மீட்டெடுப்பு (உட்பொதிப்புகள் + வெக்டர் ஸ்டோர்/RAG வடிவங்கள்) பொதுவாக எல்லாவற்றையும் சூழலில் "நிரப்புவதை"யும் மாதிரியைக் குழப்புவதையும் வெல்கிறது.

நான் எந்த திட்டமிடல் முறையைப் பயன்படுத்த வேண்டும்: சரிபார்ப்புப் பட்டியல், மறுபரிசீலனை அல்லது மேற்பார்வையாளர்-பணியாளர்?

பணிகள் கணிக்கக்கூடியதாகவும், சோதிக்க எளிதான ஒன்றை நீங்கள் விரும்பும் போதும் சரிபார்ப்புப் பட்டியல் திட்டமிடுபவர் சிறந்தவர். கருவி முடிவுகள் நீங்கள் அடுத்து என்ன செய்கிறீர்கள் என்பதை மாற்றும்போது ReAct-பாணி சுழல்கள் பிரகாசிக்கின்றன. பணிகளை இணையாகச் செய்யும்போது அல்லது தனித்துவமான பாத்திரங்களிலிருந்து (ஆராய்ச்சியாளர், குறியீட்டாளர், QA) பயனடையும்போது மேற்பார்வையாளர்-பணியாளர் வடிவங்கள் (AutoGen-பாணி பங்கு பிரிப்பு போன்றவை) உதவுகின்றன. மறு திட்டமிடலுடன் திட்டமிட்டு செயல்படுத்துவது பிடிவாதமான மோசமான திட்டங்களைத் தவிர்ப்பதற்கான ஒரு நடைமுறை நடுத்தரக் களமாகும்.

ஒரு முகவர் உண்மையான நடவடிக்கைகளை எடுக்க முடிந்தால், அவரை எவ்வாறு பாதுகாப்பாக மாற்றுவது?

குறைந்தபட்ச சலுகை அனுமதிகளைப் பயன்படுத்தவும், ஒப்புதல் அல்லது "உலர்-ரன்" முறைகளுக்குப் பின்னால் ஆபத்தான கருவிகளைக் கட்டுப்படுத்தவும். பட்ஜெட்டுகள் மற்றும் வரம்புகளைச் சேர்க்கவும்: அதிகபட்ச படிகள், அதிகபட்ச செலவு மற்றும் நிமிடத்திற்கு கருவி அழைப்பு வரம்புகள். பதிவு செய்வதற்கு முன் முக்கியமான தரவைத் திருத்தவும், மேலும் உற்பத்தி சூழல்களிலிருந்து டெவலப்பரைப் பிரிக்கவும். உள்ளீடுகள் தெளிவற்றதாக இருக்கும்போது, ​​நம்பிக்கையானது ஆதாரங்களை மாற்றுவதற்குப் பதிலாக, நிச்சயமற்ற தன்மை கொடிகள் அல்லது கேள்விகளை தெளிவுபடுத்துவதைக் கோருங்கள்.

ஒரு AI முகவரை எவ்வாறு சோதித்து மதிப்பிடுவது, அதனால் அது காலப்போக்கில் மேம்படும்?

மகிழ்ச்சியான பாதைகள், எட்ஜ் கேஸ்கள், கருவி தோல்விகள், தெளிவற்ற கோரிக்கைகள் மற்றும் உடனடி-ஊசி முயற்சிகள் (OWASP-பாணி) ஆகியவற்றைக் கொண்ட ஒரு காட்சி தொகுப்பை உருவாக்குங்கள். பணி வெற்றி, முடிக்க வேண்டிய நேரம், கருவி பிழைகளிலிருந்து மீள்வது மற்றும் ஆதாரங்கள் இல்லாமல் உரிமைகோரல்கள் போன்ற முடிவுகளை மதிப்பிடுங்கள். கருவித் திட்டங்கள், அறிவுறுத்தல்கள், மீட்டெடுப்பு அல்லது நினைவக வடிவமைப்பை நீங்கள் மாற்றும் எந்த நேரத்திலும், தொகுப்பை மீண்டும் இயக்கவும். நீங்கள் அதைச் சோதிக்க முடியாவிட்டால், அதை நம்பத்தகுந்த முறையில் அனுப்ப முடியாது.

தாமதம் மற்றும் செலவுகளை அதிகரிக்காமல் ஒரு முகவரை எவ்வாறு பயன்படுத்துவது?

ஒரு பொதுவான முறை, வெளிப்புற நிலை ஸ்டோர் (DB/Redis), அதன் பின்னால் கருவி சேவைகள் மற்றும் வலுவான பதிவு/கண்காணிப்பு (பெரும்பாலும் OpenTelemetry) ஆகியவற்றைக் கொண்ட நிலையற்ற கட்டுப்படுத்தி ஆகும். மீட்டெடுப்பு தற்காலிக சேமிப்பு, சிறிய நிலை சுருக்கங்கள், ரூட்டிங்/பிரித்தெடுப்புக்கான சிறிய மாதிரிகள் மற்றும் கடினமான படிகளுக்கு "ஆழமான சிந்தனையை" கட்டுப்படுத்துதல் மூலம் செலவுகளைக் கட்டுப்படுத்தவும். நீண்ட பணிகளுக்கு வரிசைகளைப் பயன்படுத்தவும், இதனால் நீங்கள் வலை கோரிக்கைகளைத் திறந்து வைத்திருக்க மாட்டீர்கள். எப்போதும் ஒரு கொலை சுவிட்சைச் சேர்க்கவும்.

குறிப்புகள்

1. தேசிய தரநிலைகள் மற்றும் தொழில்நுட்ப நிறுவனம் (NIST) - NIST AI RMF 1.0 (நம்பகத்தன்மை மற்றும் வெளிப்படைத்தன்மை) - nvlpubs.nist.gov

2. OpenAI - கட்டமைக்கப்பட்ட வெளியீடுகள் - platform.openai.com

3. OpenAI - செயல்பாட்டு அழைப்பு வழிகாட்டி - platform.openai.com

4. OpenAI - விகித வரம்புகள் வழிகாட்டி - platform.openai.com

5. OpenAI - இயங்கும் API - platform.openai.com

6. OpenAI - உதவியாளர்கள் செயல்பாடு அழைப்பு - platform.openai.com

7. லாங்செயின் - முகவர்கள் ஆவணங்கள் (ஜாவாஸ்கிரிப்ட்) - docs.langchain.com

8. லாங்செயின் - டாக்ஸ் கருவிகள் (பைதான்) - docs.langchain.com

9. லாங்செயின் - நினைவக கண்ணோட்டம் - docs.langchain.com

10. arXiv - எதிர்வினை தாள் (காரணம் + செயல்) - arxiv.org

11. arXiv - RAG தாள் - arxiv.org

12. அமேசான் வலை சேவைகள் (AWS) உருவாக்குநர்கள் நூலகம் - ஜிட்டருடன் காலக்கெடு, மீண்டும் முயற்சித்தல் மற்றும் பின்வாங்குதல் - aws.amazon.com

13. ஓபன் டெலிமெட்ரி - கண்காணிப்பு ப்ரைமர் - opentelemetry.io

14. ஸ்ட்ரைப் - ஐடெம்போடென்ட் கோரிக்கைகள் - docs.stripe.com

15. கூகிள் கிளவுட் - மீண்டும் முயற்சிக்கும் உத்தி (பின்வாங்குதல் + நடுக்கம்) - docs.cloud.google.com

16. OWASP - பெரிய மொழி மாதிரி பயன்பாடுகளுக்கான முதல் 10 - owasp.org

17. OWASP - LLM01 உடனடி ஊசி - genai.owasp.org

18. ல்லாமாஇண்டெக்ஸ் - RAG அறிமுகம் - developers.llamaindex.ai

19. மைக்ரோசாப்ட் - சொற்பொருள் கர்னல் - learn.microsoft.com

20. மைக்ரோசாப்ட் ஆட்டோஜென் - மல்டி-ஏஜென்ட் கட்டமைப்பு (ஆவணங்கள்) - microsoft.github.io

21. CrewAI - முகவர்கள் கருத்துக்கள் - docs.crewai.com

22. வைக்கோல் குவியல் (ஆழமான தொகுப்பு) - ரெட்ரீவர்ஸ் ஆவணங்கள் - docs.haystack.deepset.ai

அதிகாரப்பூர்வ AI உதவியாளர் கடையில் சமீபத்திய AI ஐக் கண்டறியவும்

எங்களை பற்றி