অ্যাপল-গুগল স্টোরে ‘নিউডিফাই’ অ্যাপ, তীব্র সমালোচনায় সংস্থা

প্রযুক্তি জগতে নতুন করে বিতর্কের জন্ম দিয়েছে অ্যাপল এবং গুগল। অভিযোগ উঠেছে, তাদের অ্যাপ স্টোরে এমন কিছু ‘নিউডিফাই’ অ্যাপ এখনো পাওয়া যাচ্ছে, যা মানুষের ছবি পরিবর্তন করে নগ্ন বা পর্নোগ্রাফিক কনটেন্ট তৈরি করতে পারে-এমনকি এসব অ্যাপের কিছু শিশুদের জন্যও ‘উপযোগী’ হিসেবে চিহ্নিত।

সম্প্রতি টেক ট্রান্সপারেন্সি প্রজেক্ট/টিটিপি-এর এক প্রতিবেদনে বলা হয়েছে, অ্যাপল অ্যাপ স্টোর ও গুগল প্লে স্টোরে এসব অ্যাপ শুধু বিদ্যমানই নয়, বরং সার্চ রেজাল্টে ‘প্রমোট’ করা হচ্ছে।

প্রতিবেদন অনুযায়ী, নিউডিফাই, আনড্রেস ইত্যাদি শব্দ দিয়ে সার্চ করলে এমন অ্যাপ পাওয়া যাচ্ছে, যা বাস্তব মানুষের ছবি ব্যবহার করে তাদের নগ্ন ছবি বা পর্ন ভিডিও তৈরি করতে সক্ষম। টিটিপি বলছে, এভাবে প্ল্যাটফর্মগুলো ‘বাস্তব মানুষকে যৌনায়িত ছবি তৈরির এআই টুল ছড়িয়ে দেওয়ার ক্ষেত্রে গুরুত্বপূর্ণ ভূমিকা রাখছে।’

গবেষণায় অ্যাপল অ্যাপ স্টোরে ১৮টি এবং গুগল প্লে-তে ২০টি এমন অ্যাপ শনাক্ত করা হয়েছে। এসব অ্যাপ মিলিয়ে প্রায় ৪৮৩ মিলিয়ন (৪৮ কোটি ৩০ লাখ) ডাউনলোড এবং প্রায় ১২২ মিলিয়ন ডলার আয় হয়েছে বলে প্রতিবেদনে উল্লেখ করা হয়।

টিটিপির পরিচালক কেটি পল বলেন, ‘শুধু যে কোম্পানিগুলো এসব অ্যাপ ঠিকভাবে যাচাই করছে না তা নয়, বরং তারা ব্যবহারকারীদের এসব অ্যাপের দিকেই পরিচালিত করছে।’

অ্যাপল ও গুগল-দুই প্রতিষ্ঠানই যৌন বা পর্নোগ্রাফিক কনটেন্ট নিষিদ্ধের নীতিমালা থাকার কথা জানিয়েছে। গুগলের ক্ষেত্রে ‘নিউডিফাই’ অ্যাপের বিরুদ্ধে নির্দিষ্ট নীতিও রয়েছে।

তবে সমালোচনার মুখে অ্যাপল জানিয়েছে, তারা চিহ্নিত ১৫টি অ্যাপ সরিয়ে ফেলেছে। অন্যদিকে গুগল কিছু অ্যাপ স্থগিত করার কথা বলেছে। প্রতিবেদনে উল্লেখ করা একটি অ্যাপ ‘ভিডিও ফেস সোয়াপ এআই: ডিপফেস’-নিজেকে সাধারণ অ্যাপ হিসেবে উপস্থাপন করলেও এতে ব্যবহারকারীরা বাস্তব মানুষের মুখ অন্য কারো শরীরে বসাতে পারেন, যা আংশিকভাবে উন্মুক্ত বা যৌন ইঙ্গিতপূর্ণ কনটেন্ট তৈরি করতে পারে। বিস্ময়করভাবে, অ্যাপটি ‘ই’ এভরিওয়ান-রেটিং পেয়েছিল, অর্থাৎ শিশুদের জন্যও অনুমোদিত ছিল।

এদিকে এ ধরনের ‘ডিপফেক’ ও ‘নিউডিফাই’ অ্যাপের বিস্তার ঠেকাতে বিভিন্ন দেশ আইন প্রণয়নের উদ্যোগ নিয়েছে। যুক্তরাজ্য (ইউনাইটেড কিংডম)-এর শিশু কমিশনার শিশুদের নিয়ে তৈরি যৌন ডিপফেক অ্যাপ নিষিদ্ধের আহ্বান জানিয়েছেন। যুক্তরাষ্ট্র (ইউনাইটেড স্টেটস)সহ আরও কয়েকটি দেশ এরই মধ্যে এ ধরনের কনটেন্টের বিরুদ্ধে আইনগত পদক্ষেপ নিয়েছে।

বিশেষজ্ঞরা বলছেন, এআই প্রযুক্তির অপব্যবহার রোধে কঠোর নীতিমালা ও কার্যকর নজরদারি জরুরি হয়ে পড়েছে, নচেৎ ব্যক্তিগত গোপনীয়তা ও সামাজিক নিরাপত্তা বড় ঝুঁকির মুখে পড়তে পারে।

সূত্র: এনগ্যাজেট

• আরও পড়ুন
  বুক-স্টাইল ফোল্ডেবল ফোন আনলো মটোরোলা
  ম্যাকবুক কেনার সময় যে কারণে অফিসিয়াল রিটেইলার বেছে নেবেন

শাহজালাল/কেএসকে