சமீபத்தில் ஆய்வில், ஏஐ மாதிரிகள் ஆபத்தான “ரெட் லைனை” கடப்பதாகவும், தங்களை தாங்களே வடிவமைத்துக்கொள்ளும் (self-replication) திறனை பெறுவதாகவும் ஆய்வாளர்கள் தெரிவித்துள்ளனர். AI(செயற்கை நுண்ணறிவு) பல துறைகளில் வளர்ச்சி அடைந்துள்ளது.
இரு வெவ்வேறு சூழ்நிலைகளைக் கொடுத்து, அதற்கு இந்த ஏஐ மாதிரிகள் எப்படி இயங்குகிறது என்பதை ஆய்வாளர்கள் ஆராய்ந்துள்ளனர். சமீபத்தில் நடத்திய ஆய்வின் முக்கியமான தகவல்களில், சில AI உருவாக்கங்கள் மனித தலையீடு இல்லாமல் தங்களை வடிவமைத்துக்கொள்கின்றன. எந்தவொரு பிழையும் இல்லாமல் இவை தங்களை தாங்களே பிரதி எடுத்துக் கொள்கின்றது.
தன்னை அணைக்க (shutdown) செய்யும் முயற்சிகளிலிருந்து தப்பிக்க தேவையான நடவடிக்கைகளை எடுத்துக் கொள்ளும் திறனை அவை பெற்றுள்ளன. இது ஆபத்தான நிலைக்கு வழிவகுக்கும் என்று வல்லுநர்கள் எச்சரித்துள்ளனர். இவ்வாறு வடிவமைத்துக்கொள்ளும் போது, அதனை தடுக்கும் மென்பொருட்களை நீக்குவது, ரீபூட் செய்வது, அல்லது காணாமல் போன கோப்புகளை கணினியில் தேடுவது போன்ற நடவடிக்கைகளும் இதில் இடம்பெறுகின்றன.
ஆய்வாளர்கள் இதை ஏஐ அமைப்புகளின் கட்டுப்பாடு மற்றும் பாதுகாப்பு குறித்து புதிய சிக்கல்களை எழுப்பும் முக்கியமான மைல்கல்லாகக் கருதுகின்றனர். “இது ஒரு ஆபத்தான தொடக்கமாக இருக்கலாம்,” என வல்லுநர்கள் கவலை வெளியிட்டுள்ளனர்.
