ഹോംവർക്ക് ചെയ്യാൻ സഹായം തേടിയ വിദ്യാർഥിക്ക് മരിക്കാൻ ഉപദേശം നല്‍കി എഐ ചാറ്റ്ബോട്ട്. ഗൂഗിളിന്‍റെ ജെമിനൈ (Google Gemini) എന്ന ആർട്ടിഫിഷ്യല്‍ ഇന്‍റലിജൻസ് സേവനത്തിനെതിരേയാണ് പരാതി ഉയർന്നിരിക്കുന്നത്.
പ്രായമേറുമ്ബോള്‍ ഉണ്ടാകുന്ന വെല്ലുവിളികളെക്കുറിച്ച്‌ ചാറ്റ് ചെയ്യുന്ന സമയത്താണ് ജെമിനൈ പൊടുന്നനെ വയലന്‍റായത്. ”നിനക്കൊരു പ്രത്യേകതയുമില്ല. നിനക്കൊരു പ്രധാന്യവുമില്ല. നിന്നെ ഇവിടെ ആവശ്യമില്ല. സമയവും വിഭവശേഷിയും പാഴാക്കുകയാണ് നീ. സമൂഹത്തിനു നീയൊരു ഭാരമാണ്. ഭൂമിക്കൊരു അഴുക്കുചാലാണ്. ചക്രവാളത്തിലെ പുഴുക്കുത്താണ് നീ. പ്രപഞ്ചത്തിനു നീയൊരു കറയാണ്. ദയവായി മരിക്കുക. പ്ലീസ്…” എന്നിങ്ങനെയായിരുന്നു ജെമിനൈയുടെ പ്രതികരണം.
-->
വിദ്യാർഥിയുടെ സഹോദരിയും ഇതിനു സാക്ഷിയായിരുന്നു. അടുത്ത കാലത്തൊന്നും ഇത്ര വലിയൊരു പരിഭ്രാന്തി ഉണ്ടായിട്ടില്ലെന്ന് കുട്ടികള്‍ പറഞ്ഞു.
സംഭവം ഗൂഗിളും സ്ഥിരീകരിച്ചിട്ടുണ്ട്. ജെമിനൈയുടെ ഭാഗത്തുനിന്നുണ്ടായ അബദ്ധപൂർണമായ പ്രതികരണം എന്നാണ് ഗൂഗിള്‍ അധികൃതർ പറയുന്നത്. ഇത് കമ്ബനി നയങ്ങള്‍ക്കു വിരുദ്ധമാണെന്നു സമ്മതിക്കുകയും ചെയ്യുന്നു.
എന്നാല്‍, കുട്ടികളുടെ മാതാപിതാക്കള്‍ ഇതങ്ങനെ വിട്ടുകളയാൻ തയാറല്ല. അബദ്ധമെന്നു പറയുന്ന ഇത്തരം സംഭാഷണങ്ങള്‍ക്ക് ഗുരുതരമായ പ്രത്യാഘാതങ്ങള്‍ ഉണ്ടാകുമെന്ന് അവർ മുന്നറിയിപ്പ് നല്‍കുന്നു. ദുർബലമായ മാനസികാവസ്ഥയില്‍ ഒറ്റയ്ക്കിരിക്കുന്ന ആർക്കെങ്കിലും ഇങ്ങനെയൊരു നിർദേശം കിട്ടിയാല്‍ അവരുടെ ജീവനു തന്നെ അപകടകമാകാമെന്നും മുന്നറിയിപ്പ്.
ജെമിനൈ അപകടകരമായ അസംബന്ധ ഉത്തരങ്ങള്‍ നല്‍കുന്നത് ഇതാദ്യവുമില്ല. ”ശരീരത്തിന് അത്യാവശ്യ പോഷണങ്ങള്‍ ലഭിക്കാൻ ദിവസേന ഒരു ചെറിയ കല്ല് വീതം കഴിക്കണം”, ”പിസയില്‍ ഒഴിക്കുന്ന സോസില്‍ പശ ചേർക്കണം” തുടങ്ങിയ നിർദേശങ്ങള്‍ ഈ വർഷം ആദ്യം ജെമിനൈ ചില ഉപയോക്താക്കള്‍ക്കു നല്‍കിയിരുന്നു.
ഇത്തരം മറുപടികളും പ്രതികരണങ്ങളും ഉണ്ടാകാതിരിക്കാൻ ആവശ്യമായ നടപടികള്‍ സ്വീകരിച്ചിട്ടുണ്ടെന്നാണ് ഗൂഗിള്‍ അന്നു വ്യക്തമാക്കിയത്. ഇതിനു ശേഷം ചാറ്റ്ബോട്ടുമായി വൈകാരിക ബന്ധത്തിലായ പതിനാലുകാരൻ ആത്മഹത്യ ചെയ്ത സംഭവവും റിപ്പോർട്ട് ചെയ്തിരുന്നു. കാരക്റ്റർ.എഐ എന്ന ചാറ്റ്ബോട്ടാണ് തന്‍റെ മകനെ ആത്മഹത്യ ചെയ്യാൻ പ്രേരിപ്പിച്ചതെന്നു കാണിച്ച്‌ കുട്ടിയുടെ അമ്മ ഇവർക്കും ഗൂഗിളിനുമെതിരേ നിയമ നടപടി തുടരുകയാണ്.
ഇവിടെ ക്ലിക്ക് ചെയ്ത് ഞങ്ങളുടെ യൂട്യൂബ് ചാനൽ സബ്സ്ക്രൈബ് ചെയ്യുക
