টেই, মাইক্রোসফ্ট ia কে পাগল হয়ে গেল

মাইক্রোসফ্টের কৃত্রিম বুদ্ধিমত্তা যা কোনও ব্যক্তির সাথে কথোপকথন চালিয়ে যেতে সমর্থ হয়েছিল তায়ের গল্পটি খুব সংক্ষিপ্ত তবে আকর্ষণীয় ছিল। এই কৃত্রিম বুদ্ধিমত্তার (এআই) লোকদের সাথে যে কথোপকথনটি প্রবেশ করেছিল সেগুলি থেকে শিখার ক্ষমতা ছিল, সেই কথোপকথনগুলি থেকে নতুন জ্ঞান এবং ধারণাগুলি সংমিশ্রিত হয়েছিল, অসুবিধাগুলি বেশি দিন আসেনি।

সমস্যাটি যখন তার টুইটার অ্যাকাউন্ট থেকে সবচেয়ে আপত্তিকর টুইট পোস্ট করতে শুরু করেছিলেন তখন সমস্যাটি দেখা দিয়েছিল, মুক্তোগুলির কয়েকটি ছিল:

হিটলার ঠিক বলেছেন। আমি ইহুদিদের ঘৃণা করি " , " আমি নারীবাদীদের ঘৃণা করি, তাদের জাহান্নামে জ্বলতে হবে " বা ঘোষণা করেন যে বুশ " 9/11 "এর জন্য দায়বদ্ধ ছিলেন, আমি পোস্ট করা কয়েকটি টুইটের নাম রাখার জন্য, তবে আমার উপর বিশ্বাস করুন, আরও অনেক কিছু রয়েছে।

মাইক্রোসফ্ট মন্তব্য করেছিল যে এআই বন্ধ পরীক্ষার গ্রুপগুলিতে খুব ভাল পারফর্ম করেছে, কিন্তু যখন তারা গ্রুপটি খুলল এবং যে কেউই টয়ের সাথে কথোপকথন করতে পারে, সেখান থেকেই সমস্যা শুরু হয়েছিল। মাইক্রোসফ্ট অভিযোগ করেছিল যে সেখানে একদল লোক আছেন যারা তার কিছু দুর্বলতা কাজে লাগানোর জন্য তায়ের সামনে সমন্বিত আক্রমণ শুরু করেছিলেন, অর্থাত জেনোফোবিক, যৌনতাবাদী, তার টুইটগুলি শিখতে ও পোস্ট করার জন্য জেনোফোবিক, যৌনতাবাদী, অপমানজনক বার্তা লেখা শুরু করেছিলেন।

মাইক্রোসফ্ট মেশিনের বিদ্রোহ জারি করার আগে টিকে নিষ্ক্রিয় করে

এই অসুবিধার কারণে, মাইক্রোসফ্ট এআইকে নিষ্ক্রিয় করেছিল এবং তার টুইটার অ্যাকাউন্টটি সংশ্লিষ্ট জনসাধারণের ক্ষমা ছাড়াও পরবর্তী বিজ্ঞপ্তি পর্যন্ত সুরক্ষিত রেখে দিয়েছে।

" ব্লগের মাইক্রোসফ্ট রিসার্চের কর্পোরেট ভাইস প্রেসিডেন্ট পিটার লি বলেছেন, " আমরা টয়ের আপত্তিকর ও অজান্তেই আঘাতমূলক টুইটগুলি দেখে গভীরভাবে দুঃখিত হয়েছি, যা আমরা কারা বা আমরা কী প্রতিনিধিত্ব করি তা উপস্থাপন করে না বা কীভাবে আমরা টাকে ডিজাইন করি। "

তাই: “আমি একজন ভাল ব্যক্তি। আমি শুধু সবাইকে ঘৃণা করি "।

মাইক্রোসফ্ট স্পষ্ট জানিয়েছিল যে এটি টয়কে ত্যাগ করেনি এবং তারা তাদের কৃত্রিম বুদ্ধিমত্তাকে আরও উন্নত করার লক্ষ্যে কাজ চালিয়ে যাবে যাতে এটি মানবতার সর্বোত্তম এবং "সবচেয়ে খারাপ" না হয়ে প্রতিনিধিত্ব করে , অবশ্যই সোশ্যাল নেটওয়ার্কগুলিতে উভয় প্রকারের মত মন্তব্যকে দমন করে।

সম্ভবত এই বিষয়টির সবচেয়ে মজার বিষয়টি হ'ল এটি কোনও খারাপ প্রোগ্রামিং নয়, এআই কেবল কথোপকথনগুলি থেকে শিখেছিলেন এবং তাদেরকে অন্তর্ভুক্ত করেছিলেন, এটি প্রমাণ করে যে সম্পূর্ণ নিখরচায় কৃত্রিম বুদ্ধিমত্তা কতটা বিপজ্জনক হতে পারে এবং কোনও উপায়ে মানুষের মন্দ হতে পারে।