ওয়েব ডেস্ক: কয়েকদিন আগেই ওপেন এআই-এর (Open AI) তৈরি চ্যাটবট ‘চ্যাট জিপিটি’র (Chat GPT) পরামর্শ নিয়ে অপরাধ (Crime) ঘটিয়েছে এক যুবক। আবার একইভাবে আত্মহত্যাও করেছে আরেকজন। তাদের নাকি এইসব পরামর্শ দিয়েছিল এআই চালিত এই বট। আর এইসব ঘটনা নিয়ে প্রশ্নের মুখে পড়েছে ওপেন এআই-এর এই জনপ্রিয় চ্যাটবট (AI Chatbot)। সেই কারণে এবার এই বিষয়টি নিয়ে নড়েচড়ে বসেছে সংস্থা।
চ্যাট জিপিটি-র ব্যবহারকারীদের সঙ্গে হওয়া কথোপকথন যে সম্পূর্ণ গোপন নয়, সে কথা প্রকাশ্যে স্বীকার করল সংস্থা ওপেন এআই। সম্প্রতি প্রকাশিত এক ব্লগপোস্টে ওপেন এআই জানিয়েছে, ব্যবহারকারীদের আলোচনায় সহিংসতার সম্ভাবনা ধরা পড়লে তা বিশেষ পর্যালোচনার জন্য পাঠানো হয় এবং গুরুতর হুমকির আশঙ্কা থাকলে পুলিশের সঙ্গে সেই সব তথ্য ভাগ করা হতে পারে।
আরও পড়ুন: হ্যাক হতে পারে ২.৫ কোটি Gmail অ্যাকাউন্ট! সতর্ক করল Google
ওপেনএআই জানিয়েছে, যদি সিস্টেম বুঝতে পারে যে, কেউ অন্যকে ক্ষতি করার পরিকল্পনা করছে, তবে সেই আলোচনাকে একটি বিশেষ ব্যবস্থার মধ্যে নিয়ে যাওয়া হয়। সেখানে প্রশিক্ষিত একটি দল বিষয়টি নিয়ে পর্যালোচনা করে। তাঁরা প্রয়োজনে ব্যবহারকারীর অ্যাকাউন্ট বাতিলও করতে পারে। যদি মনে হয় গুরুতর শারীরিক ক্ষতির ঝুঁকি আসন্ন, তখন আইনশৃঙ্খলা রক্ষাকারী বাহিনীকেও জানানো হতে পারে।
তবে সংস্থার দাবি, আত্মহত্যার মতো সংবেদনশীল ক্ষেত্রে এখন পুলিশের কাছে তথ্য পাঠায় না সংস্থা। ওপেনএআই জানিয়েছে, ব্যক্তিগত গোপনীয়তাকে সম্মান জানাতেই এমন নীতি অনুসরণ করা হচ্ছে। কিন্তু এবার থেকে চ্যাটিংয়ে আত্মহনন কিংবা অপরাধের কোনও ইঙ্গিত মিললে, তা পুলিশকে জানিয়ে দেওয়া হবে বলেই জানিয়েছে ওপেন এআই।
দেখুন আরও খবর:
