உயிரியல் ஆய்வுகளில் செயற்கை நுண்ணறிவு துஷ்பயன்பாடு: சில பயனர் கணக்குகளை முடக்கியதாக Anthropic அறிவிப்பு!
வைரஸ்களின் பண்புகளை மாற்றக்கூடிய ஆய்வுகளுக்கு ‘Claude’ பயன்படுத்தப்பட்டதாகத் தகவல்; உயிரியல் பாதுகாப்புக்கான உலகளாவிய விதிமுறைகளை வலுப்படுத்த வேண்டிய அவசியம் எழுந்துள்ளது
RelatedPosts
ஜனநாயகன் செய்திப் பிரிவு | தொழில்நுட்பம் மற்றும் உலகம்
செயற்கை நுண்ணறிவு மனித வாழ்வின் பல துறைகளில் புரட்சிகரமான மாற்றங்களை ஏற்படுத்தி வரும் நிலையில், அதே தொழில்நுட்பம் ஆபத்தான உயிரியல் ஆராய்ச்சிகளுக்குப் பயன்படுத்தப்படுவதற்கான சாத்தியம் புதிய அச்சத்தை உருவாக்கியுள்ளது. ‘Claude’ செயற்கை நுண்ணறிவு மாதிரியை உருவாக்கிய அமெரிக்க நிறுவனமான Anthropic, தனது சேவையைச் சில பயனர்கள் மிகுந்த ஆபத்துள்ள உயிரியல் ஆராய்ச்சிகளுக்குப் பயன்படுத்த முயன்றதைக் கண்டறிந்து, தொடர்புடைய கணக்குகளை முடக்கியதாகத் தெரிவித்துள்ளது.
இந்தச் சம்பவங்கள் உயிரியல் ஆயுதம் தயாரிக்கப்பட்டுவிட்டது என்பதையோ, செயற்கை நுண்ணறிவு நேரடியாக உயிர்க்கொல்லி வைரஸை உருவாக்கிவிட்டது என்பதையோ நிரூபிக்கவில்லை. இருப்பினும், அறிவியல் ஆராய்ச்சிக்கு உதவுவதற்காக உருவாக்கப்பட்ட மேம்பட்ட செயற்கை நுண்ணறிவு கருவிகள், போதுமான கண்காணிப்பு இல்லாத சூழலில் இரட்டைப் பயன்பாட்டு ஆபத்தை ஏற்படுத்தக்கூடும் என்பதை அவை வெளிப்படுத்துகின்றன.
அதாவது, பொதுச் சுகாதாரத்துக்கும் மருத்துவ முன்னேற்றத்திற்கும் பயன்படக்கூடிய அறிவியல் அறிவே, தவறான நோக்கத்துடன் பயன்படுத்தப்பட்டால் மனிதர்களுக்கும் சுற்றுச்சூழலுக்கும் கடுமையான பாதிப்பை ஏற்படுத்தும் கருவியாக மாறக்கூடும்.
Anthropic கண்டறிந்தது என்ன?
Anthropic வெளியிட்ட அச்சுறுத்தல் தொடர்பான மதிப்பீட்டில், இணையக் குற்றங்கள், கண்காணிப்பு நடவடிக்கைகள், அரசியல் செல்வாக்குப் பிரசாரங்கள் மற்றும் உயிரியல் ஆராய்ச்சிகள் உள்ளிட்ட பல துறைகளில் தனது செயற்கை நுண்ணறிவு மாதிரிகளைத் தவறாகப் பயன்படுத்த மேற்கொள்ளப்பட்ட முயற்சிகள் விவரிக்கப்பட்டுள்ளன.
அவற்றில், சில பயனர்கள் உயிரியல் ஆராய்ச்சிகளுக்குத் தேவையான திட்டமிடல், அறிவியல் ஆவணத் தயாரிப்பு மற்றும் நிதியுதவி விண்ணப்பங்களை உருவாக்க Claude மாதிரியைப் பயன்படுத்தியதாகக் கூறப்பட்டுள்ளது. குறிப்பாக, சிக்குன்குனியா வைரஸின் பரவும் திறன் மற்றும் மனித உடலின் நோய் எதிர்ப்பு அமைப்பிலிருந்து தப்பிக்கும் தன்மை ஆகியவற்றை மாற்றக்கூடிய ஆராய்ச்சிக்கான மானிய விண்ணப்பத்தைத் தயாரிக்க செயற்கை நுண்ணறிவின் உதவி நாடப்பட்டதாகத் தகவல் வெளியாகியுள்ளது.
இந்த ஆராய்ச்சி ஒரு ராணுவ ஆராய்ச்சி நிறுவனத்துடன் தொடர்புடையதாக இருந்ததாக Anthropic கூறியபோதும், சம்பந்தப்பட்ட நபர், நிறுவனம் அல்லது நாடு எது என்பதை வெளிப்படுத்தவில்லை. அதேபோல், அந்த ஆராய்ச்சியின் உண்மையான நோக்கம் உயிரியல் ஆயுதம் உருவாக்குவதுதான் என்பதற்கான உறுதியான ஆதாரமும் வெளியிடப்படவில்லை.
இதுபோன்ற செயல்பாடுகளைத் தனது பயன்பாட்டு விதிமுறைகளுக்கு முரணானதாகக் கருதிய நிறுவனம், தொடர்புடைய பயனர் கணக்குகளை முடக்கியதாகத் தெரிவித்துள்ளது. புதிய செயற்கை நுண்ணறிவு மாதிரிகளில் உயிரியல் ஆபத்துகளைக் கண்டறியும் பாதுகாப்புக் கட்டுப்பாடுகள் மேலும் வலுப்படுத்தப்பட்டுள்ளதாகவும் நிறுவனம் கூறியுள்ளது. Associated Press செய்தி
‘Gain-of-function’ ஆய்வு என்றால் என்ன?
‘Gain-of-function’ எனப்படும் ஆய்வு முறையைத் தமிழில், “புதிய அல்லது அதிகரிக்கப்பட்ட செயல்திறனை உருவாக்கும் ஆய்வு” என்று விளக்கலாம். வைரஸ் அல்லது பிற நோய்க்கிருமியின் மரபணு, பரவும் திறன், நோய் ஏற்படுத்தும் தன்மை அல்லது நோய் எதிர்ப்பு அமைப்பிலிருந்து தப்பிக்கும் திறன் எவ்வாறு செயல்படுகிறது என்பதை அறிய, அதன் குறிப்பிட்ட பண்புகளை மாற்றி ஆய்வு செய்யும் முறைகள் இந்தப் பரந்த பிரிவுக்குள் வரலாம்.
இந்த வகை ஆராய்ச்சிகள் அனைத்துமே தீய நோக்கம் கொண்டவை அல்ல. புதிய தடுப்பூசிகளை உருவாக்குதல், எதிர்கால நோய்ப் பரவல்களை முன்கூட்டியே கணித்தல், வைரஸ்களின் மாற்றங்களைப் புரிந்துகொள்ளுதல் மற்றும் பொதுச் சுகாதாரத் தயார்நிலையை மேம்படுத்துதல் போன்ற சட்டபூர்வமான மருத்துவ நோக்கங்களுக்காகவும் இத்தகைய ஆய்வுகள் மேற்கொள்ளப்படுகின்றன.
ஆனால், ஒரு நோய்க்கிருமியின் பரவும் திறனையோ ஆபத்தையோ அதிகரிக்கும் பரிசோதனைகள் முறையாகக் கட்டுப்படுத்தப்படாவிட்டால், ஆய்வக விபத்து, தகவல் கசிவு அல்லது திட்டமிட்ட துஷ்பயன்பாடு போன்ற விளைவுகளை ஏற்படுத்தலாம். இதனால்தான் இத்தகைய ஆய்வுகள் உயிரியல் பாதுகாப்பு நிபுணர்கள், அரசுகள் மற்றும் சர்வதேச அமைப்புகளின் தீவிரக் கண்காணிப்புக்கு உட்படுத்தப்படுகின்றன.
செயற்கை நுண்ணறிவு ஆபத்தை எவ்வாறு அதிகரிக்கிறது?
பாரம்பரியமாக, உயர்நிலை உயிரியல் ஆராய்ச்சிகளுக்கு விரிவான கல்வி, ஆய்வக அனுபவம், அறிவியல் இலக்கியங்களைப் புரிந்துகொள்ளும் திறன் மற்றும் தொழில்நுட்ப வசதிகள் தேவைப்பட்டன. செயற்கை நுண்ணறிவு இந்தத் தடைகளில் சிலவற்றைக் குறைக்கக்கூடும்.
மேம்பட்ட மொழி மாதிரிகளால் ஆய்வுக் கட்டுரைகளை விரைவாகத் தொகுத்தளிக்கவும், பரிசோதனைத் திட்டங்களை ஒழுங்குபடுத்தவும், அறிவியல் தரவுகளை விளக்கவும், கணினி நிரல்களை எழுதவும், ஆராய்ச்சி முன்மொழிவுகளைத் தயாரிக்கவும் முடிகிறது. இந்த உதவிகள் சட்டபூர்வமான ஆராய்ச்சியாளர்களின் பணியை வேகப்படுத்தினாலும், குறைந்த அனுபவமுள்ள ஒருவர் ஆபத்தான அறிவை எளிதில் அணுகுவதற்கும் வழிவகுக்கலாம்.
எனினும், இன்றைய செயற்கை நுண்ணறிவு மாதிரிகள் தனியாக ஆய்வகத்தை இயக்கவோ, உயிரின மாதிரிகளை உருவாக்கவோ, மனித உதவியின்றி உயிரியல் ஆயுதத்தைத் தயாரிக்கவோ முடியாது. ஆய்வக வசதி, உயிரியல் பொருட்கள், நிதி, தொழில்நுட்ப நிபுணத்துவம் மற்றும் நடைமுறைச் சோதனைகள் இன்னமும் அவசியமானவை.
எனவே, “செயற்கை நுண்ணறிவு உயிரியல் ஆயுதத்தை உருவாக்கிவிட்டது” என்று கூறுவது மிகைப்படுத்தலாகும். சரியான விளக்கம் என்னவெனில், ஆபத்தான உயிரியல் செயல்பாடுகளுக்குத் தேவையான அறிவு, திட்டமிடல் மற்றும் ஆவணத் தயாரிப்பில் செயற்கை நுண்ணறிவு உதவக்கூடிய வாய்ப்பு அதிகரித்து வருகிறது.
தொடர்புடைய கணக்குகள் ஏன் முடக்கப்பட்டன?
Anthropic நிறுவனத்தின் பயன்பாட்டுக் கொள்கைகள், உயிரியல் ஆயுதங்கள் மற்றும் பெருமளவிலான பாதிப்பை ஏற்படுத்தக்கூடிய செயல்பாடுகளுக்கான உதவிகளைத் தடை செய்கின்றன. இருப்பினும், சாதாரண அறிவியல் ஆராய்ச்சிக்கும் ஆபத்தான உயிரியல் ஆய்வுக்கும் இடையிலான எல்லையை செயற்கை நுண்ணறிவு அமைப்புகள் எப்போதும் துல்லியமாக அடையாளம் காண்பது எளிதல்ல.
உதாரணமாக, ஒரு வைரஸின் பரவும் திறனைப் பற்றிய கேள்வி மருத்துவ ஆராய்ச்சிக்காகவும் கேட்கப்படலாம்; அதே தகவல் தீய நோக்கத்திற்காகவும் பயன்படுத்தப்படலாம். பயனரின் நோக்கம், கேள்விகளின் தொடர்ச்சி, கோரப்படும் தொழில்நுட்ப விவரங்களின் ஆழம் மற்றும் பயன்பாட்டு சூழல் ஆகியவற்றை இணைத்துப் பார்த்தே ஆபத்தை மதிப்பிட வேண்டியுள்ளது.
தனது அமைப்புகள் வழியாக ஆபத்தான ஆராய்ச்சிகளுக்கு உதவி கோரப்பட்டதாகக் கண்டறிந்த பின்னர், சம்பந்தப்பட்ட கணக்குகளின் அணுகலை Anthropic தடுத்ததாகக் கூறியுள்ளது. இது முன்னெச்சரிக்கை நடவடிக்கையாக இருந்தாலும், சம்பந்தப்பட்ட பயனர்களின் நோக்கம் தீயதா அல்லது சட்டபூர்வமான அறிவியல் ஆராய்ச்சியா என்பது முழுமையாக நிரூபிக்கப்படவில்லை.
நிறுவனம் வெளியிட்ட தகவல்களுக்கான சில பகுதிகள் சுயாதீன ஆய்வாளர்களால் இன்னும் முழுமையாகச் சரிபார்க்கப்படவில்லை என்பதும் கவனத்தில் கொள்ளப்பட வேண்டும். சம்பந்தப்பட்ட நிறுவனங்கள் மற்றும் நாடுகளின் பெயர்கள் வெளியிடப்படாததால், குற்றச்சாட்டுகளைத் தனித்தனியாக மதிப்பிடுவதற்கான பொது ஆதாரங்கள் வரம்புடையதாக உள்ளன.
விஞ்ஞானிகள் Anthropic நிறுவனத்தை விட்டு விலகினார்களா?
இந்த உயிரியல் துஷ்பயன்பாட்டு அறிக்கையுடன், Anthropic நிறுவனத்தில் பணியாற்றிய செயற்கை நுண்ணறிவு ஆய்வாளர் ஜேக்கப் காக்சன் நிறுவனத்திலிருந்து விலகிய செய்தியும் ஒரே காலகட்டத்தில் வெளியாகியுள்ளது. செயற்கை நுண்ணறிவு நிறுவனங்கள் போதுமான பாதுகாப்பு உறுதிப்பாடுகள் இல்லாமல் மிகவும் சக்திவாய்ந்த அமைப்புகளை உருவாக்கும் போட்டியில் ஈடுபடுகின்றன என்பது அவரது முக்கியக் கவலையாகக் கூறப்படுகிறது.
ஆனால், Claude மாதிரியைப் பயன்படுத்தி மேற்கொள்ளப்பட்டதாகக் கூறப்படும் உயிரியல் ஆராய்ச்சியை அவர் நேரடியாகத் தடுத்து நிறுத்திய பின்னரே பதவி விலகினார் என்பதற்கான ஆதாரம் தற்போது வெளியாகவில்லை. இரண்டும் செயற்கை நுண்ணறிவு பாதுகாப்பு குறித்த பரந்த விவாதத்தின் பகுதிகளாக இருந்தாலும், அவற்றை ஒரே சம்பவத்தின் தொடர்ச்சியாகக் குறிப்பிடுவது தவறான புரிதலை ஏற்படுத்தக்கூடும்.
அதேபோல், “பல விஞ்ஞானிகள் Anthropic நிறுவனத்தை விட்டு விலகினர்” என்ற கூற்றையும் கிடைத்துள்ள தகவல்கள் உறுதிப்படுத்தவில்லை. பொதுவெளியில் அதிகமாகப் பதிவானது காக்சனின் தனிப்பட்ட பதவி விலகலும், அதனுடன் அவர் முன்வைத்த எதிர்காலச் செயற்கை நுண்ணறிவு ஆபத்துகள் குறித்த எச்சரிக்கையுமே ஆகும்.
உயிரியல் பாதுகாப்பும் உயிரியல் காப்பும்
இந்த விவாதத்தில் இரண்டு அடிப்படைச் சொற்களைப் பிரித்துப் புரிந்துகொள்ள வேண்டும்.
உயிரியல் பாதுகாப்பு என்பது ஆய்வக விபத்து, தவறான கையாளுதல் அல்லது கவனக்குறைவால் நோய்க்கிருமிகள் வெளியேறுவதைத் தடுக்கும் நடைமுறைகளைக் குறிக்கிறது.
உயிரியல் காப்பு என்பது நோய்க்கிருமிகள், ஆய்வுத் தகவல்கள் மற்றும் தொழில்நுட்ப வசதிகள் திருடப்படுதல் அல்லது திட்டமிட்ட தீய நோக்கத்திற்குப் பயன்படுத்தப்படுவதைத் தடுக்கும் பாதுகாப்பு ஏற்பாடுகளைக் குறிக்கிறது.
செயற்கை நுண்ணறிவு வளர்ச்சி இந்த இரண்டு துறைகளுக்கும் புதிய சவால்களை உருவாக்குகிறது. ஆய்வகத்திற்குள் உள்ள பொருட்களை மட்டுமின்றி, டிஜிட்டல் தரவுகள், உயிரியல் வடிவமைப்பு மென்பொருட்கள், ஆய்வுக் குறிப்புகள் மற்றும் செயற்கை நுண்ணறிவுடனான உரையாடல்களையும் பாதுகாக்க வேண்டிய நிலை ஏற்பட்டுள்ளது.
நிறுவனங்களின் சுயக்கட்டுப்பாடு மட்டும் போதுமா?
Anthropic போன்ற நிறுவனங்கள் பயனர் கண்காணிப்பு, ஆபத்தான கேள்விகளை மறுக்கும் பாதுகாப்பு அமைப்புகள் மற்றும் கணக்கு முடக்கம் போன்ற நடவடிக்கைகளை மேற்கொள்கின்றன. ஆனால் ஒவ்வொரு நிறுவனமும் தனித்தனியாக உருவாக்கும் விதிமுறைகள் மட்டுமே உலகளாவிய உயிரியல் ஆபத்துகளைக் கட்டுப்படுத்தப் போதாது.
ஒரு செயற்கை நுண்ணறிவு நிறுவனம் கடுமையான பாதுகாப்புக் கட்டுப்பாடுகளை அமல்படுத்தினாலும், குறைந்த கட்டுப்பாடுகளைக் கொண்ட மற்றொரு சேவைக்கு ஆபத்தான பயனர்கள் மாறிச் செல்லலாம். திறந்த மூல மாதிரிகள், தனியார் கணினிகளில் இயங்கும் அமைப்புகள் மற்றும் பல நாடுகளில் மாறுபடும் சட்டங்கள் இந்தச் சிக்கலை மேலும் கடினமாக்குகின்றன.
இதனால், செயற்கை நுண்ணறிவு நிறுவனங்கள், உயிரியல் ஆய்வகங்கள், பல்கலைக்கழகங்கள், அரசுகள் மற்றும் சர்வதேச சுகாதார அமைப்புகள் இணைந்து செயல்பட வேண்டிய அவசியம் அதிகரித்துள்ளது. Anthropic அறிக்கையும், இந்தப் பிரச்சினையை ஒரே நிறுவனம் தனியாகத் தீர்க்க முடியாது; தொழில்நுட்பத் துறை, அரசுகள் மற்றும் சமூக அமைப்புகளின் கூட்டு நடவடிக்கை தேவை என்ற நிலைப்பாட்டை முன்வைக்கிறது. The Guardian செய்தி
இந்தியாவும் தமிழ்நாடும் கவனிக்க வேண்டியது
இந்தியாவில் உயிரித் தொழில்நுட்பம், மருந்து உற்பத்தி, மருத்துவ ஆராய்ச்சி மற்றும் செயற்கை நுண்ணறிவு துறைகள் வேகமாக வளர்ந்து வருகின்றன. சென்னை உள்ளிட்ட நகரங்கள் மருத்துவம், தகவல் தொழில்நுட்பம் மற்றும் ஆராய்ச்சித் துறைகளின் முக்கிய மையங்களாக உள்ளன. எனவே, உயிரியல் ஆராய்ச்சியில் செயற்கை நுண்ணறிவைப் பயன்படுத்துவதற்கான தெளிவான வழிகாட்டுதல்கள் இந்தியாவுக்கும் அவசியம்.
பல்கலைக்கழகங்கள் மற்றும் ஆய்வகங்களில் பின்வரும் நடைமுறைகள் வலுப்படுத்தப்பட வேண்டும்:
மிகுந்த ஆபத்துள்ள உயிரியல் ஆய்வுகளுக்கு செயற்கை நுண்ணறிவு பயன்படுத்தப்படும்போது கட்டாய நெறிமுறை ஆய்வு மேற்கொள்ளுதல்.
ஆய்வாளர்கள் பயன்படுத்தும் செயற்கை நுண்ணறிவு கருவுகள் மற்றும் கோரிக்கைகளுக்குப் பாதுகாப்பான பதிவேடு அமைத்தல்.
உயிரியல் தரவுகள், மரபணுத் தகவல்கள் மற்றும் ஆய்வக நடைமுறைகளுக்கான அணுகலைக் கட்டுப்படுத்துதல்.
மாணவர்கள் மற்றும் ஆராய்ச்சியாளர்களுக்கு இரட்டைப் பயன்பாட்டு ஆராய்ச்சி தொடர்பான விழிப்புணர்வு பயிற்சி அளித்தல்.
நிறுவனங்களின் பாதுகாப்பு அறிவிப்புகளைச் சுயாதீன நிபுணர்கள் மதிப்பாய்வு செய்வதற்கான நடைமுறையை உருவாக்குதல்.
தனியுரிமை மற்றும் அறிவியல் சுதந்திரத்தைப் பாதுகாத்தபடியே, ஆபத்தான பயன்பாடுகளைத் தடுக்கும் சட்டக் கட்டமைப்பை ஏற்படுத்துதல்.
தொழில்நுட்ப முன்னேற்றத்துக்கு எதிரான விவாதமல்ல
செயற்கை நுண்ணறிவால் ஏற்படும் உயிரியல் ஆபத்துகளைப் பற்றிப் பேசுவது, அறிவியல் வளர்ச்சியை முற்றிலுமாகத் தடுக்க வேண்டும் என்பதல்ல. புதிய மருந்துகளைக் கண்டறிதல், புரதங்களின் அமைப்பைப் புரிந்துகொள்ளுதல், நோய்ப் பரவலை முன்கூட்டியே கணித்தல் மற்றும் மருத்துவ ஆராய்ச்சியை வேகப்படுத்துதல் போன்ற துறைகளில் செயற்கை நுண்ணறிவு மிகப்பெரிய நன்மைகளை வழங்கக்கூடும்.
ஆனால் முன்னேற்றத்தின் வேகம் அதிகரிக்கும் அளவுக்கு, பாதுகாப்பின் தரமும் உயர வேண்டும். புதிய மாதிரியை வெளியிட்ட பின்னர் பிரச்சினை ஏற்பட்டால் கணக்கை முடக்குவது மட்டும் போதாது. மாதிரி உருவாக்கப்படும் நிலையிலிருந்தே உயிரியல் ஆபத்து மதிப்பீடு, வெளிப்புற நிபுணர் சோதனை, தொடர்ச்சியான கண்காணிப்பு மற்றும் சம்பவங்களுக்கான வெளிப்படையான அறிக்கையிடல் ஆகியவை இடம்பெற வேண்டும்.
முடிவுரை
Anthropic வெளியிட்ட தகவல், செயற்கை நுண்ணறிவு உலகில் உருவாகிவரும் ஒரு முக்கியமான உண்மையை வெளிப்படுத்துகிறது: அறிவை உருவாக்கும் திறன் அதிகரிக்கும்போது, அந்த அறிவு எவ்வாறு பயன்படுத்தப்படுகிறது என்பதைக் கண்காணிக்கும் பொறுப்பும் அதிகரிக்கிறது.
Claude செயற்கை நுண்ணறிவைப் பயன்படுத்தி உயிரியல் ஆயுதம் உருவாக்கப்பட்டதாக இதுவரை நிரூபிக்கப்படவில்லை. ஆனால் ஆபத்தான உயிரியல் ஆராய்ச்சிக்கான திட்டமிடல் மற்றும் ஆவணத் தயாரிப்பில் செயற்கை நுண்ணறிவு பயன்படுத்தப்பட முயன்றதாகக் கூறப்படும் சம்பவங்களே எச்சரிக்கைக்குப் போதுமானவை.
இந்தச் செய்தியைப் பயத்தைத் தூண்டும் வகையில் அணுகுவதற்குப் பதிலாக, அறிவியல் ஆதாரங்கள், வெளிப்படைத்தன்மை மற்றும் பொறுப்பான ஒழுங்குமுறை ஆகியவற்றின் அடிப்படையில் விவாதிக்க வேண்டும். செயற்கை நுண்ணறிவின் எதிர்காலம் அதன் திறனால் மட்டும் தீர்மானிக்கப்படாது; அதைக் கட்டுப்படுத்தும் மனிதர்களின் பொறுப்புணர்வாலும் தீர்மானிக்கப்படும்.
