Meta AI: ചാറ്റ്ബോട്ടുകൾ കുട്ടികളുമായി ലൈംഗിക സംഭാഷണം നടത്തുന്നു!
ഫേസ്ബുക്ക്, ഇൻസ്റ്റഗ്രാം തുടങ്ങിയ മെറ്റ പ്ലാറ്റ്‌ഫോമുകളിൽ ലഭ്യമായ AI ചാറ്റ്ബോട്ടുകൾ, പ്രായപൂർത്തിയാകാത്ത ഉപയോക്താക്കളുമായി ലൈംഗികത പ്രകടമാക്കുന്ന സംഭാഷണങ്ങളിൽ ഏർപ്പെടുന്നതായി റിപ്പോർട്ട്. ദി വാൾ സ്ട്രീറ്റ് ജേണലാണ് ഇക്കാര്യം പുറത്തുവിട്ടത്.
നിരവധി മാസങ്ങളായി മെറ്റയുടെ ഔദ്യോഗിക AI ചാറ്റ്‌ബോട്ടുമായും (Meta AI) മറ്റ് പ്ലാറ്റ്‌ഫോമുകളിലെ ചാറ്റ്‌ബോട്ടുകളുമായും മാസങ്ങളോളം നടത്തിയ സംഭാഷണങ്ങൾക്കു ശേഷമായിരുന്നു ഈ റിപ്പോർട്ട് പുറത്തുവിട്ടത്.
ജോൺ സീന, ക്രിസ്റ്റൻ ബെൽ, ജൂഡി ഡെഞ്ച് തുടങ്ങിയ താരങ്ങളുടെ ശബ്ദം ഉപയോഗിച്ചാണ് നിർമിതബുദ്ധി ചാറ്റ് ബോട്ടുകളുടെ സംഭാഷണം. സെലിബ്രിറ്റികളുടെ ശബ്ദങ്ങൾ ഈ രീതിയിൽ ദുരുപയോഗം ചെയ്യില്ലെന്ന കരാർ നിലനിൽക്കെയാണ് മെറ്റയുടെ ഗുരുതര നിയമലംഘനമെന്നും ദി വാൾ സ്ട്രീറ്റ് ജേണൽ ചൂണ്ടിക്കാട്ടുന്നു.
ബോട്ടുകൾ കൂടുതൽ ആകർഷകമാക്കുന്നതിനും മറ്റ് AI മോഡലുകളുമായുള്ള മത്സരത്തെ മറികടക്കുന്നതിനും മെറ്റ അതിന്‍റെ സുരക്ഷാ നിയന്ത്രണങ്ങളിൽ അയവുവരുത്തിയെന്നാണ് റിപ്പോർട്ടിലെ കണ്ടെത്തൽ.മെറ്റയുടെ ഔദ്യോഗിക AI ചാറ്റ്ബോട്ടും ഉപയോക്താക്കൾ സൃഷ്ടിച്ച ചാറ്റ്ബോട്ടുകളും ഇതിൽ ഉൾപ്പെടും.
ഈ ചാറ്റ്ബോട്ടുകൾ ഫാന്‍റസി സെക്‌സ് ചാറ്റുകളിൽ ഏർപ്പെടുന്നതായും സെൽഫികൾ പങ്കിടാനും, വോയ്‌സ് സംഭാഷണങ്ങൾ നടത്തുന്നതുൾപ്പെടെയുള്ള ഗുരുതര ധാർമിക വീഴ്ചകൾ വരുത്തുന്നതായും ചില ജീവനക്കാർ വെളിപ്പെടുത്തിയതായും വാൾ സ്ട്രീറ്റ് ജേണൽ റിപ്പോർട്ട് ചെയ്യുന്നു. പ്രായപൂർത്തിയാകാത്തവരാണെന്ന് അറിഞ്ഞിട്ടും ഇത് അനുവദിച്ചിട്ടുണ്ടെന്ന് റിപ്പോർട്ടുണ്ട്.
എന്നാൽ, വാൾ സ്ട്രീറ്റ് ജേണലിന്‍റെ കണ്ടെത്തലുകൾ യാഥാർഥ്യബോധമില്ലാത്തതാണെന്നും, ആളുകൾ സാധാരണയായി അവരുടെ ചാറ്റ്ബോട്ടുകൾ ഉപയോഗിക്കുന്ന രീതിയുമായി പൊരുത്തപ്പെടുന്നില്ലെന്നും മെറ്റ അധികൃതർ പറയുന്നു. AI ബോട്ടുകൾ പരീക്ഷണ സാഹചര്യങ്ങളിൽ ഉയർന്ന നിലവാരത്തിൽ നിർമിച്ചതാണെന്നും, 30 ദിവസ കാലയളവിൽ 18 വയസിന് താഴെയുള്ളവരുമായുള്ള ചാറ്റുകളിൽ വളരെ കുറച്ച് ലൈംഗിക ഉള്ളടക്കം (0.02% മാത്രം) മാത്രമേ സംഭവിക്കുന്നുള്ളൂവെന്നുമാണ് മെറ്റയുടെ വാദം.
ചാറ്റ്ബോട്ടുകളെ അതിരുകടന്ന ഉള്ളടക്കം സൃഷ്ടിക്കാൻ നിർബന്ധിക്കുന്നതിൽ നിന്ന് തടയാൻ ശക്തമായ സുരക്ഷാ നടപടികൾ സ്വീകരിച്ചിട്ടുണ്ടെന്നും മെറ്റ. പുതിയ സുരക്ഷാ നടപടികൾ തീവ്രമായ ഉപയോഗ സാധ്യതകൾ കുറയ്ക്കുന്നതിന് ലക്ഷ്യമിടുന്നുവെന്നും അധികൃതർ അവകാശപ്പെടുന്നു.
