எட்ஜ் AI என்றால் என்ன?

எட்ஜ் AI என்றால் என்ன?

தரவு பிறக்கும் இடங்களுக்கு Edge AI நுண்ணறிவைத் தள்ளுகிறது. இது அழகாகத் தெரிகிறது, ஆனால் முக்கிய யோசனை எளிமையானது: சென்சாருக்கு அருகில் சிந்திக்கச் செய்யுங்கள், இதனால் முடிவுகள் பின்னர் அல்ல, இப்போதே தோன்றும். ஒவ்வொரு முடிவையும் மேகம் கவனித்துக் கொள்ளாமல் வேகம், நம்பகத்தன்மை மற்றும் ஒரு நல்ல தனியுரிமைக் கதையைப் பெறுவீர்கள். அதை அவிழ்ப்போம் - குறுக்குவழிகள் மற்றும் பக்க தேடல்கள் சேர்க்கப்பட்டுள்ளன. 😅

இதற்குப் பிறகு நீங்கள் படிக்க விரும்பக்கூடிய கட்டுரைகள்:

🔗 ஜெனரேட்டிவ் AI என்றால் என்ன?
ஜெனரேட்டிவ் AI, அது எவ்வாறு செயல்படுகிறது மற்றும் நடைமுறை பயன்பாடுகள் பற்றிய தெளிவான விளக்கம்.

🔗 முகவர் AI என்றால் என்ன?
முகவர் AI, தன்னாட்சி நடத்தைகள் மற்றும் நிஜ உலக பயன்பாட்டு முறைகள் பற்றிய கண்ணோட்டம்.

🔗 AI அளவிடுதல் என்றால் என்ன
AI அமைப்புகளை நம்பகத்தன்மையுடனும், திறமையாகவும், செலவு குறைந்த முறையிலும் எவ்வாறு அளவிடுவது என்பதை அறிக.

🔗 AI-க்கான மென்பொருள் கட்டமைப்பு என்றால் என்ன?
AI மென்பொருள் கட்டமைப்புகள், கட்டமைப்பு நன்மைகள் மற்றும் செயல்படுத்தல் அடிப்படைகளின் விளக்கம்.

எட்ஜ் AI என்றால் என்ன? விரைவான விளக்கம் 🧭

எட்ஜ் AI என்பது பயிற்சி பெற்ற இயந்திர கற்றல் மாதிரிகளை நேரடியாக தரவு சேகரிக்கும் சாதனங்களில் அல்லது அதற்கு அருகில் இயக்கும் நடைமுறையாகும் - தொலைபேசிகள், கேமராக்கள், ரோபோக்கள், கார்கள், அணியக்கூடிய பொருட்கள், தொழில்துறை கட்டுப்படுத்திகள் என்று நீங்கள் பெயரிடலாம். பகுப்பாய்விற்காக தொலைதூர சேவையகங்களுக்கு மூல தரவை அனுப்புவதற்கு பதிலாக, சாதனம் உள்ளீடுகளை உள்ளூரில் செயலாக்குகிறது மற்றும் சுருக்கங்களை மட்டுமே அனுப்புகிறது அல்லது எதையும் அனுப்புவதில்லை. குறைவான சுற்று பயணங்கள், குறைவான தாமதம், அதிக கட்டுப்பாடு. நீங்கள் ஒரு சுத்தமான, விற்பனையாளர்-நடுநிலை விளக்கத்தை விரும்பினால், இங்கே தொடங்குங்கள். [1]

 

எட்ஜ் AI

எட்ஜ் AI-ஐ உண்மையில் பயனுள்ளதாக மாற்றுவது எது? 🌟

  • குறைந்த தாமதம் - முடிவுகள் சாதனத்திலேயே நடக்கும், எனவே பொருள் கண்டறிதல், விழித்தெழுந்த சொல் கண்டறிதல் அல்லது ஒழுங்கின்மை எச்சரிக்கைகள் போன்ற புலனுணர்வு பணிகளுக்கு பதில்கள் உடனடியாக உணரப்படும். [1]

  • வட்டாரத்தின் அடிப்படையில் தனியுரிமை - முக்கியமான தரவு சாதனத்திலேயே இருக்கும், வெளிப்பாட்டைக் குறைக்கும் மற்றும் தரவு-குறைப்பு விவாதங்களுக்கு உதவும். [1]

  • அலைவரிசை சேமிப்பு - மூல ஸ்ட்ரீம்களுக்குப் பதிலாக அம்சங்கள் அல்லது நிகழ்வுகளை அனுப்பவும். [1]

  • மீள்தன்மை - ஸ்கெட்சி இணைப்பின் போது வேலை செய்கிறது.

  • செலவுக் கட்டுப்பாடு - குறைவான கிளவுட் கம்ப்யூட் சுழற்சிகள் மற்றும் குறைந்த வெளியேற்றம்.

  • சூழல் விழிப்புணர்வு - சாதனம் சூழலை "உணர்ந்து" அதற்கு ஏற்ப மாற்றியமைக்கிறது.

விரைவான நிகழ்வு: ஒரு சில்லறை விற்பனையாளர், சாதனத்தில் உள்ள நபர்-எதிர்-பொருள் வகைப்பாட்டிற்காக நிலையான கேமரா பதிவேற்றங்களை மாற்றி, மணிநேர எண்ணிக்கைகள் மற்றும் விதிவிலக்கு கிளிப்களை மட்டுமே தள்ளினார். முடிவு: அலமாரியின் விளிம்பில் 200 ms க்கும் குறைவான எச்சரிக்கைகள் மற்றும் ஸ்டோர் WAN ஒப்பந்தங்களை மாற்றாமல் அப்லிங்க் போக்குவரத்தில் ~90% வீழ்ச்சி. (முறை: உள்ளூர் அனுமானம், நிகழ்வு தொகுப்பு, முரண்பாடுகள் மட்டும்.)

எட்ஜ் AI vs கிளவுட் AI - விரைவான மாறுபாடு 🥊

  • கணக்கீடு நடக்கும் இடம் : எட்ஜ் = சாதனத்தில்/சாதனத்திற்கு அருகில்; கிளவுட் = தொலை தரவு மையங்கள்.

  • தாமதம் : விளிம்பு ≈ நிகழ்நேரம்; மேகம் சுற்றுப் பயணங்களைக் கொண்டுள்ளது.

  • தரவு இயக்கம் : விளிம்பு முதலில் வடிகட்டுகிறது/அமுக்குகிறது; மேகம் முழு நம்பகத்தன்மை பதிவேற்றங்களை விரும்புகிறது.

  • நம்பகத்தன்மை : எட்ஜ் ஆஃப்லைனில் இயங்குகிறது; மேகத்திற்கு இணைப்பு தேவை.

  • ஆளுகை : எட்ஜ் தரவு குறைப்பை ஆதரிக்கிறது; மேகம் மேற்பார்வையை மையப்படுத்துகிறது. [1]

இது இரண்டும் இல்லை - அல்லது இல்லை. ஸ்மார்ட் அமைப்புகள் இரண்டையும் கலக்கின்றன: உள்ளூரில் விரைவான முடிவுகள், ஆழமான பகுப்பாய்வு மற்றும் மையமாகக் கொண்ட ஃப்ளீட் கற்றல். கலப்பின பதில் சலிப்பை ஏற்படுத்துகிறது - மேலும் சரியானது.

எட்ஜ் AI உண்மையில் எப்படி அப்பட்டமாக வேலை செய்கிறது 🧩

  1. சென்சார்கள் மூல சமிக்ஞைகளைப் பிடிக்கின்றன - ஆடியோ பிரேம்கள், கேமரா பிக்சல்கள், IMU டேப்கள், அதிர்வுத் தடயங்கள்.

  2. முன் செயலாக்கம் அந்த சமிக்ஞைகளை மாதிரி-நட்பு அம்சங்களாக மறுவடிவமைக்கிறது.

  3. , அனுமான இயக்க நேரம் சாதனத்தில் ஒரு சிறிய மாதிரியை இயக்குகிறது.

  4. பிந்தைய செயலாக்கம் வெளியீடுகளை நிகழ்வுகள், லேபிள்கள் அல்லது கட்டுப்பாட்டு செயல்களாக மாற்றுகிறது.

  5. டெலிமெட்ரி பயனுள்ளவற்றை மட்டுமே பதிவேற்றுகிறது: சுருக்கங்கள், முரண்பாடுகள் அல்லது அவ்வப்போது வரும் கருத்துகள்.

நீங்கள் சாதாரணமாகப் பார்க்கும் சாதன இயக்க நேரங்களில் கூகிளின் LiteRT (முன்னர் TensorFlow Lite), ONNX Runtime மற்றும் Intel இன் OpenVINO . இந்த கருவிச் சங்கிலிகள் குவாண்டேஷன் மற்றும் ஆபரேட்டர் இணைவு போன்ற தந்திரங்களுடன் இறுக்கமான சக்தி/நினைவக பட்ஜெட்டுகளிலிருந்து செயல்திறனைக் குறைக்கின்றன. நீங்கள் நட்ஸ் மற்றும் போல்ட்களைப் பிடித்திருந்தால், அவற்றின் ஆவணங்கள் திடமானவை. [3][4]

அது எங்கே தோன்றும் - நீங்கள் 🧯🚗🏭 இல் சுட்டிக்காட்டக்கூடிய உண்மையான பயன்பாட்டு நிகழ்வுகள்

  • விளிம்பில் பார்வை : கதவு மணி கேமராக்கள் (மக்கள் vs செல்லப்பிராணிகள்), சில்லறை விற்பனையில் அலமாரி ஸ்கேனிங், குறைபாடுகளைக் கண்டறியும் ட்ரோன்கள்.

  • சாதனத்தில் ஆடியோ : தாவரங்களில் விழித்தெழுந்த வார்த்தைகள், டிக்டேஷன், கசிவு கண்டறிதல்.

  • தொழில்துறை IoT : செயலிழப்புக்கு முன் அதிர்வு முரண்பாடுகளுக்கு மோட்டார்கள் மற்றும் பம்புகள் கண்காணிக்கப்படுகின்றன.

  • வாகனம் : ஓட்டுநர் கண்காணிப்பு, பாதை கண்டறிதல், பார்க்கிங் உதவிகள்-வினாடிக்குக் கீழே அல்லது விபத்து.

  • சுகாதாரம் : அணியக்கூடியவை உள்ளூரில் அரித்மியாவைக் குறிக்கின்றன; சுருக்கங்களை பின்னர் ஒத்திசைக்கவும்.

  • ஸ்மார்ட்போன்கள் : புகைப்பட மேம்பாடு, ஸ்பேம்-அழைப்பு கண்டறிதல், “எனது தொலைபேசி அதை ஆஃப்லைனில் எப்படிச் செய்தது” தருணங்கள்.

முறையான வரையறைகளுக்கு (மற்றும் "மூடுபனி vs விளிம்பு" உறவினர் பேச்சு), NIST கருத்தியல் மாதிரியைப் பார்க்கவும். [2]

அதை சுறுசுறுப்பாக்கும் வன்பொருள் 🔌

ஒரு சில தளங்கள் நிறைய பெயர் சரிபார்க்கப்படுகின்றன:

  • NVIDIA Jetson - ரோபோக்கள்/கேமராக்களுக்கான GPU-இயங்கும் தொகுதிகள்-உட்பொதிக்கப்பட்ட AIக்கான சுவிஸ்-இராணுவ-கத்தி அதிர்வுகள்.

  • கூகிள் எட்ஜ் TPU + LiteRT - மிகக் குறைந்த சக்தி திட்டங்களுக்கான திறமையான முழு எண் அனுமானம் மற்றும் நெறிப்படுத்தப்பட்ட இயக்க நேரம். [3]

  • ஆப்பிள் நியூரல் எஞ்சின் (ANE) - ஐபோன், ஐபேட் மற்றும் மேக்கிற்கான இறுக்கமான சாதன ML; ANE இல் மின்மாற்றிகளை திறமையாகப் பயன்படுத்துவது குறித்த நடைமுறைப் பணிகளை ஆப்பிள் வெளியிட்டுள்ளது. [5]

  • OpenVINO உடன் Intel CPUகள்/iGPUகள்/NPUகள் - Intel வன்பொருள் முழுவதும் “ஒருமுறை எழுதுங்கள், எங்கும் வரிசைப்படுத்துங்கள்”; பயனுள்ள தேர்வுமுறை கடந்து செல்கிறது.

  • எல்லா இடங்களிலும் ONNX இயக்க நேரம் - தொலைபேசிகள், PCகள் மற்றும் நுழைவாயில்கள் முழுவதும் செருகக்கூடிய செயல்படுத்தல் வழங்குநர்களைக் கொண்ட ஒரு நடுநிலை இயக்க நேரம். [4]

உங்களுக்கு அவை எல்லாம் தேவையா? உண்மையில் இல்லை. உங்கள் கடற்படைக்கு ஏற்ற ஒரு வலுவான பாதையைத் தேர்ந்தெடுத்து அதனுடன் ஒட்டிக்கொள்க - உட்பொதிக்கப்பட்ட அணிகளின் எதிரி கர்ன்.

மென்பொருள் தொகுப்பு - ஒரு சிறிய சுற்றுலா 🧰

  • மாதிரி சுருக்கம் : அளவீடு (பெரும்பாலும் int8 க்கு), கத்தரித்தல், வடிகட்டுதல்.

  • ஆபரேட்டர்-நிலை முடுக்கம் : உங்கள் சிலிக்கானுடன் கர்னல்கள் டியூன் செய்யப்பட்டுள்ளன.

  • இயக்க நேரங்கள் : LiteRT, ONNX இயக்க நேரம், OpenVINO. [3][4]

  • வரிசைப்படுத்தல் ரேப்பர்கள் : கொள்கலன்கள்/பயன்பாட்டு தொகுப்புகள்; சில நேரங்களில் நுழைவாயில்களில் மைக்ரோ சர்வீசஸ்.

  • விளிம்பிற்கான MLOps : OTA மாதிரி புதுப்பிப்புகள், A/B வெளியீடு, டெலிமெட்ரி லூப்கள்.

  • தனியுரிமை & பாதுகாப்பு கட்டுப்பாடுகள் : சாதனத்தில் குறியாக்கம், பாதுகாப்பான துவக்கம், சான்றளிப்பு, உறைவிடங்கள்.

மினி-கேஸ்: ஒரு ஆய்வு ட்ரோன் குழு ஒரு ஹெவிவெயிட் டிடெக்டரை LiteRT க்கான அளவிடப்பட்ட மாணவர் மாதிரியில் வடிகட்டியது, பின்னர் NMS ஐ சாதனத்தில் இணைத்தது. குறைந்த கம்ப்யூட் டிரா காரணமாக விமான நேரம் ~15% மேம்பட்டது; பதிவேற்ற அளவு விதிவிலக்கு பிரேம்களாக சுருங்கியது. (முறை: தளத்தில் தரவுத்தொகுப்பு பிடிப்பு, பிந்தைய அளவு அளவுத்திருத்தம், முழு வெளியீட்டிற்கு முன் நிழல்-பயன்முறை A/B.)

ஒப்பீட்டு அட்டவணை - பிரபலமான எட்ஜ் AI விருப்பங்கள் 🧪

உண்மையான பேச்சு: இந்த அட்டவணை உண்மையான உலகத்தைப் போலவே கருத்து வேறுபாடு கொண்டது மற்றும் சற்று குழப்பமானது.

கருவி / தளம் சிறந்த பார்வையாளர்கள் விலை நிலவரம் அது ஏன் விளிம்பில் வேலை செய்கிறது?
LiteRT (முன்னாள் TFLite) ஆண்ட்ராய்டு, தயாரிப்பாளர்கள், உட்பொதிக்கப்பட்டவை $ முதல் $$ வரை மெலிந்த இயக்க நேரம், வலுவான ஆவணங்கள், மொபைல்-முதல் செயல்பாடுகள். ஆஃப்லைனில் சிறப்பாகச் செயல்படும். [3]
ONNX இயக்க நேரம் பல தள அணிகள் $ நடுநிலை வடிவம், செருகக்கூடிய வன்பொருள் பின்தளங்கள்-எதிர்காலத்திற்கு ஏற்றது. [4]
ஓபன்வினோ இன்டெல்-மையப்படுத்தப்பட்ட பயன்பாடுகள் $ ஒரு கருவித்தொகுப்பு, பல இன்டெல் இலக்குகள்; எளிமையான தேர்வுமுறை பாஸ்கள்.
என்விடியா ஜெட்சன் பார்வைக்கு முக்கியத்துவம் வாய்ந்த ரோபாட்டிக்ஸ் $$ முதல் $$$ வரை மதிய உணவுப் பெட்டியில் GPU முடுக்கம்; பரந்த சுற்றுச்சூழல் அமைப்பு.
ஆப்பிள் ANE iOS/iPadOS/macOS பயன்பாடுகள் சாதனத்தின் விலை இறுக்கமான HW/SW ஒருங்கிணைப்பு; நன்கு ஆவணப்படுத்தப்பட்ட ANE மின்மாற்றி வேலை. [5]
எட்ஜ் TPU + LiteRT மிகக் குறைந்த மின் திட்டங்கள் $ விளிம்பில் திறமையான int8 அனுமானம்; சிறியது ஆனால் திறமையானது. [3]

எட்ஜ் AI பாதையை எப்படி தேர்வு செய்வது - ஒரு சிறிய முடிவு மரம் 🌳

  • நிஜ வாழ்க்கையில் கஷ்டமா? ஆக்சிலரேட்டர்கள் + குவாண்டடைஸ் செய்யப்பட்ட மாதிரிகளுடன் தொடங்குங்கள்.

  • பல சாதன வகைகள் உள்ளதா? பெயர்வுத்திறனுக்காக ONNX இயக்க நேரம் அல்லது OpenVINO ஐ விரும்புங்கள். [4]

  • மொபைல் செயலியை அனுப்புகிறீர்களா? LiteRT என்பது குறைந்தபட்ச எதிர்ப்பின் பாதை. [3]

  • ரோபாட்டிக்ஸ் அல்லது கேமரா பகுப்பாய்வு? ஜெட்சனின் GPU-க்கு ஏற்ற செயல்பாடுகள் நேரத்தை மிச்சப்படுத்துகின்றன.

  • கடுமையான தனியுரிமை நிலைப்பாடு உள்ளதா? தரவை உள்ளூரில் வைத்திருங்கள், ஓய்வில் குறியாக்கம் செய்யுங்கள், மூல பிரேம்கள் அல்லாமல் பதிவு திரட்டுகளை வைக்கவும்.

  • சின்ன அணியா? அயல்நாட்டு கருவிச்சங்கிலிகளைத் தவிர்க்கவும் - சலிப்பு அழகாக இருக்கிறது.

  • மாடல்கள் அடிக்கடி மாறுமா? முதல் நாளிலிருந்தே OTA மற்றும் டெலிமெட்ரியைத் திட்டமிடுங்கள்.

அபாயங்கள், வரம்புகள் மற்றும் சலிப்பூட்டும் ஆனால் முக்கியமான பிட்கள் 🧯

  • மாதிரி சறுக்கல் - சூழல்கள் மாறுகின்றன; விநியோகங்களைக் கண்காணிக்கவும், நிழல் முறைகளை இயக்கவும், அவ்வப்போது மீண்டும் பயிற்சி செய்யவும்.

  • கம்ப்யூட் சீலிங்ஸ் - இறுக்கமான நினைவகம்/சக்தி விசை சிறிய மாதிரிகள் அல்லது தளர்வான துல்லியம்.

  • பாதுகாப்பு - உடல் ரீதியான அணுகலைக் கருதுங்கள்; பாதுகாப்பான துவக்கம், கையொப்பமிடப்பட்ட கலைப்பொருட்கள், சான்றளிப்பு, குறைந்த சலுகை சேவைகளைப் பயன்படுத்தவும்.

  • தரவு நிர்வாகம் - உள்ளூர் செயலாக்கம் உதவுகிறது, ஆனால் உங்களுக்கு இன்னும் ஒப்புதல், தக்கவைப்பு மற்றும் ஸ்கோப் செய்யப்பட்ட டெலிமெட்ரி தேவை.

  • ஃப்ளீட் செயல்பாடுகள் - மோசமான நேரங்களில் சாதனங்கள் ஆஃப்லைனில் செல்லும்; வடிவமைப்பு ஒத்திவைக்கப்பட்ட புதுப்பிப்புகள் மற்றும் மீண்டும் தொடங்கக்கூடிய பதிவேற்றங்கள்.

  • திறமை கலவை - உட்பொதிக்கப்பட்ட + ML + DevOps ஒரு மாறுபட்ட குழு; சீக்கிரமே குறுக்கு பயிற்சி.

பயனுள்ள ஒன்றை அனுப்புவதற்கான நடைமுறை வரைபடம் 🗺️

  1. வரி 3 இல் அளவிடக்கூடிய மதிப்பு-குறைபாடு கண்டறிதல், ஸ்மார்ட் ஸ்பீக்கரில் விழித்தெழுதல் போன்றவற்றுடன் ஒரு பயன்பாட்டு வழக்கைத் தேர்ந்தெடுக்கவும்

  2. ஒரு நேர்த்தியான தரவுத்தொகுப்பைச் சேகரிக்கவும் ; யதார்த்தத்துடன் பொருந்த சத்தத்தை செலுத்தவும்.

  3. உற்பத்தி வன்பொருளுக்கு அருகிலுள்ள ஒரு டெவலப்பர் கருவித்தொகுப்பில் முன்மாதிரி

  4. மாதிரியை அளவீடு/கத்தரித்து சுருக்கவும்; துல்லிய இழப்பை நேர்மையாக அளவிடவும். [3]

  5. சுத்தமான API இல் அனுமானத்தை மடிக்கவும் - ஏனெனில் சாதனங்கள் அதிகாலை 2 மணிக்கு செயலிழக்கின்றன.

  6. தனியுரிமையை மதிக்கும் டெலிமெட்ரியை வடிவமைக்கவும்

  7. கடினப்படுத்தப்பட்ட பாதுகாப்பு : கையொப்பமிடப்பட்ட பைனரிகள், பாதுகாப்பான துவக்கம், குறைந்தபட்ச சேவைகள் திறந்திருக்கும்.

  8. OTA திட்டம் : தடுமாறிய வெளியீடுகள், கேனரிகள், உடனடி மறுபிரவேசம்.

  9. ஒரு கரடுமுரடான மூலையில் விமானத்தை இயக்கு - அது அங்கே உயிர் பிழைத்தால், அது எங்கும் உயிர் பிழைக்கும்.

  10. ஒரு பிளேபுக் மூலம் அளவிடவும் : நீங்கள் மாதிரிகளைச் சேர்ப்பது, விசைகளைச் சுழற்றுவது, தரவை காப்பகப்படுத்துவது எப்படி - எனவே திட்டம் #2 குழப்பம் அல்ல.

எட்ஜ் AI ஆர்வங்கள் என்பதற்கான குறுகிய பதில்கள்

எட்ஜ் AI ஒரு சிறிய கணினியில் ஒரு சிறிய மாதிரியை இயக்குகிறதா?
பெரும்பாலும், ஆம்-ஆனால் அளவு முழு கதையல்ல. இது தாமத பட்ஜெட்டுகள், தனியுரிமை வாக்குறுதிகள் மற்றும் உள்ளூரில் செயல்படும் பல சாதனங்களை ஒழுங்கமைத்தல் மற்றும் உலகளவில் கற்றுக்கொள்வது பற்றியது. [1]

நானும் முனையத்தில் பயிற்சி செய்யலாமா?
சாதனத்தில் இலகுரக பயிற்சி/தனிப்பயனாக்கம் உள்ளது; கனமான பயிற்சி இன்னும் மையமாக இயங்குகிறது. நீங்கள் சாகசக்காரர் என்றால் ONNX இயக்க நேரம் சாதனத்தில் பயிற்சி விருப்பங்களை ஆவணப்படுத்துகிறது. [4]

எட்ஜ் AI vs ஃபாக் கம்ப்யூட்டிங் என்றால் என்ன?
ஃபாக் மற்றும் எட்ஜ் ஆகியவை உறவினர்கள். இரண்டும் கம்ப்யூட்டை தரவு மூலங்களுக்கு நெருக்கமாகக் கொண்டுவருகின்றன, சில நேரங்களில் அருகிலுள்ள நுழைவாயில்கள் வழியாக. முறையான வரையறைகள் மற்றும் சூழலுக்கு, NIST ஐப் பார்க்கவும். [2]

எட்ஜ் AI எப்போதும் தனியுரிமையை மேம்படுத்துமா?
அது உதவுகிறது - ஆனால் அது மாயாஜாலம் அல்ல. உங்களுக்கு இன்னும் சிறிதாக்குதல், பாதுகாப்பான புதுப்பிப்பு பாதைகள் மற்றும் கவனமாக பதிவு செய்தல் தேவை. தனியுரிமையை ஒரு தேர்வுப்பெட்டியாக அல்ல, ஒரு பழக்கமாக கருதுங்கள்.

நீங்கள் உண்மையிலேயே படிக்கக்கூடிய ஆழமான ஆய்வுகள் 📚

1) துல்லியத்தை கெடுக்காத மாதிரி உகப்பாக்கம்

அளவீடு நினைவகத்தைக் குறைத்து செயல்பாடுகளை விரைவுபடுத்தலாம், ஆனால் பிரதிநிதித்துவ தரவுகளுடன் அளவீடு செய்யலாம் அல்லது மாதிரியானது போக்குவரத்து கூம்புகள் இருக்கும் இடங்களில் அணில்களை மாயத்தோற்றமாக்கக்கூடும். வடிகட்டுதல் - ஒரு சிறிய மாணவரை வழிநடத்தும் ஆசிரியர் - பெரும்பாலும் சொற்பொருளைப் பாதுகாக்கிறார். [3]

2) நடைமுறையில் எட்ஜ் அனுமான இயக்க நேரங்கள்

LiteRT இன் மொழிபெயர்ப்பாளர், இயக்க நேரத்தில் வேண்டுமென்றே நிலையான-குறைவான நினைவகச் சுழற்சியைக் கொண்டுள்ளது. ONNX இயக்க நேரம் செயல்படுத்தும் வழங்குநர்கள் வழியாக வெவ்வேறு முடுக்கிகளில் செருகப்படுகிறது. இரண்டும் ஒரு வெள்ளி தோட்டா அல்ல; இரண்டும் திடமான சுத்தியல்கள். [3][4]

3) காடுகளில் வலிமை

வெப்பம், தூசி, சீரற்ற சக்தி, ஸ்லாப்டாஷ் வைஃபை: குழாய்களை மீண்டும் தொடங்கும் கண்காணிப்புக் குழுக்களை உருவாக்குங்கள், முடிவுகளை தற்காலிகமாக சேமித்து வைக்கவும், நெட்வொர்க் திரும்பும்போது சமரசம் செய்யவும். கவனத்தை ஈர்ப்பதை விட குறைவான கவர்ச்சியானது - இருப்பினும் மிகவும் முக்கியமானது.

கூட்டங்களில் நீங்கள் திரும்பத் திரும்பச் சொல்லும் சொற்றொடர் - எட்ஜ் AI என்றால் என்ன 🗣️

தாமதம், தனியுரிமை, அலைவரிசை மற்றும் நம்பகத்தன்மை ஆகியவற்றின் நடைமுறைக் கட்டுப்பாடுகளைச் சந்திக்க எட்ஜ் AI நுண்ணறிவை தரவுக்கு நெருக்கமாக நகர்த்துகிறது. மந்திரம் என்பது ஒரு சிப் அல்லது கட்டமைப்பு அல்ல - அது எதை எங்கு கணக்கிடுவது என்பதை புத்திசாலித்தனமாகத் தேர்ந்தெடுப்பதாகும்.

இறுதி குறிப்புகள் - மிக நீளமாக உள்ளது, நான் அதைப் படிக்கவில்லை 🧵

எட்ஜ் AI, மாடல்களை டேட்டாவிற்கு அருகில் இயக்குகிறது, இதனால் தயாரிப்புகள் வேகமாகவும், தனிப்பட்டதாகவும், உறுதியானதாகவும் உணரப்படும். உள்ளூர் அனுமானத்தையும் கிளவுட் மேற்பார்வையையும் கலந்து, இரு உலகங்களிலும் சிறந்ததாக உணர முடியும். உங்கள் சாதனங்களுடன் பொருந்தக்கூடிய இயக்க நேரத்தைத் தேர்வுசெய்யவும், முடிந்த போதெல்லாம் ஆக்சிலரேட்டர்களை நம்பவும், மாடல்களை சுருக்கத்துடன் நேர்த்தியாக வைத்திருக்கவும், உங்கள் வேலை அதைப் பொறுத்தது போல் ஃப்ளீட் செயல்பாடுகளை வடிவமைக்கவும் - ஏனெனில், அது இருக்கலாம். எட்ஜ் AI என்றால் என்ன என்று , சொல்லுங்கள்: புத்திசாலித்தனமான முடிவுகள், உள்ளூரில், சரியான நேரத்தில் எடுக்கப்படுகின்றன. பின்னர் புன்னகைத்து, விஷயத்தை பேட்டரிகளுக்கு மாற்றவும். 🔋🙂


குறிப்புகள்

  1. IBM - எட்ஜ் AI என்றால் என்ன? (வரையறை, நன்மைகள்).
    https://www.ibm.com/think/topics/edge-ai

  2. NIST - SP 500-325: மூடுபனி கணினி கருத்தியல் மாதிரி (மூடுபனி/விளிம்பிற்கான முறையான சூழல்).
    https://csrc.nist.gov/pubs/sp/500/325/final

  3. கூகிள் AI எட்ஜ் - LiteRT (முன்னர் TensorFlow Lite) (இயக்க நேரம், அளவீடு, இடம்பெயர்வு).
    https://ai.google.dev/edge/littert

  4. ONNX இயக்க நேரம் - சாதனத்தில் பயிற்சி (கையடக்க இயக்க நேரம் + விளிம்பு சாதனங்களில் பயிற்சி).
    https://onnxruntime.ai/docs/get-started/training-on-device.html

  5. ஆப்பிள் இயந்திர கற்றல் ஆராய்ச்சி - ஆப்பிள் நியூரல் எஞ்சினில் மின்மாற்றிகளைப் பயன்படுத்துதல் (ANE செயல்திறன் குறிப்புகள்).
    https://machinelearning.apple.com/research/neural-engine-transformers

அதிகாரப்பூர்வ AI உதவியாளர் கடையில் சமீபத்திய AI ஐக் கண்டறியவும்.

எங்களை பற்றி

வலைப்பதிவிற்குத் திரும்பு