ChatGPT-ல் அறிமுகம் செய்யப்பட்டுள்ள Lockdown Mode அம்சம்.. இதை ON செய்தால்? OpenAI கிளப்பும் பகீர்!

சாம் ஆல்ட்மேன் தலைமையிலான ஓப்பன்ஏஐ (OpenAI) நிறுவனத்தின் சாட்ஜிபிடி-யில் (ChatGPT) லாக்டவுன் மோட் (Lockdown mode) எனப்படும் தனது புதிய செக்யூரிட்டி மோட் அறிவிக்கப்பட்டுள்ளது. சாட்ஜிபிடி லாக்டவுன் மோட் என்றால் என்ன? இது எப்படி ப்ராம்ப்ட் இன்ஜெக்ஷன் அட்டாக்களுக்கு எதிராக செயல்படும்? ப்ராம்ப்ட் இன்ஜெக்ஷன் அட்டாக்ஸ் என்றால் என்ன? இதோ விவரங்கள்:

சாட்ஜிபிடி லாக்டவுன் மோட் - என்ன செய்கிறது? சான் பிரான்சிஸ்கோவை தளமாக கொண்ட ஓப்பன் ஏஐ நிறுவனத்தின் அறிவிப்பின்படி, குறிப்பாக தங்கள் எல்எல்எம்-ஐ (LLM) பயன்படுத்தி முக்கியமான தகவல்களை கையாளும் பயனர்கள் மற்றும் நிறுவனங்களுக்காக, பாதுகாப்பு அமைப்புகளை வலுப்படுத்த இந்த புதிய பாதுகாப்பு பயன்முறை அறிமுகப்படுத்தப்பட்டுள்ளது.

இந்த பாதுகாப்பு பயன்முறை, முக்கியமான தரவுகள் தவறான கைகளுக்கு செல்லும் முயற்சிகளை கண்டறிந்து, அவற்றிலிருந்து பாதுகாக்கும். ஓப்பன்ஏஐ-க்கு சொந்தமான சாட்ஜிபிடி-இல், "ஆக்டிவ் செஷன் மேனேஜர்" (Active Session Manager) என்ற கூடுதல் அம்சமும் சேர்க்கப்பட்டுள்ளது. இந்த டூலை பயன்படுத்தி, பயனர்கள் லாக்-இன் செய்த டிவைஸ்கள் மற்றும் ப்ரவுஸர்களை கூட பார்க்க முடியும், மேலும் தேவையில்லாத டிவைஸ்களிலிருந்து தங்கள் அக்கவுண்ட்களில் இருந்து தொலைவிலிருந்தும் லாக்-அவுட் செய்ய முடியும். இந்த புதிய அம்சம் சாட்ஜிபிடி-யில் பாதுகாப்பு இல்லையா என்கிற பகீர் சந்தேகத்தையும் கிளப்பி உள்ளது.

"லாக்டவுன் மோட் அனைவருக்கும் ஆனது அல்ல. இது, முக்கியமான தரவுகளை கையாளும் மற்றும் உடனடி ஊடுருவல் (prompt injection) தொடர்பான டேட்டா லீக் அபாயங்களிலிருந்து கடுமையான பாதுகாப்பை விரும்பும் நபர்கள் மற்றும் நிறுவனங்களுக்காக வடிவமைக்கப்பட்டுள்ளது," என்று ஓப்பன்ஏஐ கூறியுள்ளது. "உடனடி ஊடுருவல் தாக்குதல்கள்" (prompt injection attacks) அதிகரித்துள்ள நிலையில், இந்த பயன்முறை நடைமுறைக்கு வந்துள்ளதும் இங்கே குறிப்பிடத்தக்கது.

ப்ராம்ப்ட் இன்ஜெக்ஷன் அட்டாக்ஸ் (Prompt Injection Attacks) என்றால் என்ன? நேரடியாக சென்று தரவுகளை திருடுவதற்கு பதிலாக, ஹேக்கர்கள் இப்போது ஒரு புதிய முறையை உருவாக்கியுள்ளனர். இதில், தாக்குதல் நடத்துபவர்கள் குறியீட்டு ஆவணங்கள் போன்ற வழிமுறைகளை ஒரு வலைப்பக்கத்திற்குள் மறைத்து, அதை எல்எல்எம்-இல் பதிவேற்ற முடியும். அந்த குறியீடுகள் அல்லது ஆவணங்களை பார்க்கும்போது, ​​தாக்குதல் நடத்துபவர்களால் ஏஐ அமைப்பை கையாண்டு, முக்கியமான தகவல்களை அணுக முடிகிறது.

இதை எதிர்த்து சாட்ஜிபிடி லாக்டவுன் மோட் எப்படி செயல்படும்? இந்த மோட் ஒவ்வொரு பயனருக்கும் உரியதல்ல, மாறாக இது பெரும்பாலும் நிறுவனங்கள் மற்றும் முக்கியமான தகவல்களை பயன்படுத்தும் அபாயத்தை கொண்ட சில தனிநபர்களை மையமாக கொண்டது. லாக்டவுன் மோட் செயல்படுத்தப்படும்போது, சாட்ஜிபிடி பல எல்எல்எம் திறன்களை கட்டுப்படுத்தும்.

இதில் இணையத்திலிருந்து படங்களை எடுப்பது அல்லது பதில்களுக்குள் படங்களை உருவாக்குவது போன்றவையும் அடங்கும். மேலும், பகுப்பாய்வு நோக்கங்களுக்காக ஒரு கோப்பை பதிவிறக்க முயற்சிக்கும் பயனர்களுக்கும் கட்டுப்பாடுகள் இருக்கும். சாட்ஜிபிடி பகுப்பாய்வு செய்வதற்கு, கோப்புகள், படங்கள் மற்றும் ஆவணங்களை பதிவேற்றும் வசதியும் உள்ளது.

சாட்ஜிபிடி -இன் லாக்டவுன் மோட் ஆனது, கான்வர்ஷேஷன் மெமரி மற்றும் கான்வர்ஷேஷன் ஷேரிங் செட்டிங்ஸ்களை பாதிக்கவோ அல்லது கட்டுப்படுத்தவோ செய்யாது என்றும், வணிக சூழலில் உள்ளமைப்பதற்கும் மாற்றங்களை செய்வதற்கும் நிர்வாகிகளுக்கு உரிமை வழங்கப்படும் என்றும் ஓப்பன்ஏஐ தெளிவுபடுத்தியுள்ளது.

முன்னதாக வாஷிங்டன் போஸ்ட் (Washington Post) நடத்திய சமீபத்திய ஆய்வு ஒன்று - ஏஐ உடனான உரையாடல்களுக்கு பின்னால் சில மறைக்கப்பட்ட விதிகள் மற்றும் வழிமுறைகள் (Hidden Rules and Instructions) இருப்பதை கண்டறிந்து, அதை வெளிப்படுத்தி இருந்ததும் இங்கே குறிப்பிடத்தக்கது.

வாஷிங்டன் போஸ்ட்டின் இந்த ஆய்வானது - முக்கியமான செயற்கை நுண்ணறிவு (AI) நிறுவனங்கள், சாட்பாட்கள் எவ்வாறு நடந்துகொள்கின்றன? எதற்கு பதிலளிக்க மறுக்கின்றன? உணர்திறன் மிக்க தலைப்புகளுக்கு எவ்வாறு பதிலளிக்கின்றன? ஏன் பயனர்களுடன் பேசும்போது அவை கையாளும் தொனியை கூட கட்டுப்படுத்த - சில சமயங்களில் ஆயிரக்கணக்கான வார்த்தைகளை கொண்ட - மறைக்கப்பட்ட "சிஸ்டம் ப்ராம்ப்ட்களை" (Hidden System Prompts) எவ்வாறு சார்ந்துள்ளன? என்பதை வெளிப்படுத்தியுள்ளது.

ஏஐ உடனான உரையாடல்களுக்கு பின்னால் உள்ள மறைக்கப்பட்ட விதிகள் மற்றும் வழிமுறைகள் யாவை? பெரும்பாலான பயனர்கள், ஒரு சாட்பாட் தங்களின் ப்ராம்ப்ட்களுக்கு (Prompts) நேரடியாக பதிலளிக்கும் என்று கருதுகின்றனர். உண்மையில், பயனர் ஒரு மெசேஜை டைப் செய்வதற்கு முன்பே, செயற்கை நுண்ணறிவுக்கு ஏற்கனவே வழங்கப்பட்ட மற்றொரு தொகுதி அறிவுறுத்தல்களுடன் தான், ஒவ்வொரு உரையாடலும் தொடங்குகிறதாம். இது குறித்த விரிவான கட்டுரையை படிக்க இங்கே கிளிக் செய்யவும்.