تازه ڪاري: ايپل سرور جي هڪ ٻي معائنو جو ذڪر ڪيو، ۽ هڪ پيشه ورانه ڪمپيوٽر ويزن ڪمپني هڪ امڪان بيان ڪيو ته اهو ڇا ٿي سگهي ٿو بيان ڪيو ويو آهي "ڪيئن ٻئي معائنو ڪم ڪري سگهي ٿو" هيٺ.
ڊولپرز ان جي انجنيئر حصن کي ريورس ڪرڻ کان پوء، ايپل CSAM سسٽم جي شروعاتي ورزن کي مؤثر طريقي سان ٺهرايو ويو آهي هڪ معصوم تصوير کي نشانو بڻائڻ لاء.بهرحال، ايپل چيو آهي ته ان کي حقيقي زندگي ۾ ٿيڻ کان روڪڻ لاء اضافي تحفظات آهن.
تازي ترقي NeuralHash algorithm جي شايع ٿيڻ کان پوءِ ٿي آهي اوپن سورس ڊولپر ويب سائيٽ GitHub تي، ڪو به ان سان تجربو ڪري سگهي ٿو…
سڀئي CSAM سسٽم ڪم ڪن ٿا ٻارن جي جنسي بدسلوڪي واري مواد جو ڊيٽابيس درآمد ڪندي تنظيمن جهڙوڪ نيشنل سينٽر فار مسنگ اينڊ ايڪسپلائيٽڊ چلڊرن (NCMEC).ڊيٽابيس تصويرن مان هيش يا ڊجيٽل فنگر پرنٽس جي صورت ۾ مهيا ڪئي وئي آهي.
جيتوڻيڪ اڪثر ٽيڪنالاجي جائنٽس ڪلائوڊ ۾ اپلوڊ ڪيل فوٽوز کي اسڪين ڪن ٿا، ايپل گراهڪ جي آئي فون تي نيورل هش الگورٿم استعمال ڪري ٿو ته جيئن اسٽور ٿيل فوٽو جي هيش ويليو پيدا ٿئي، ۽ پوءِ ان کي CSAM هيش ويليو جي ڊائون لوڊ ڪيل ڪاپي سان ڀيٽي.
ڪالهه، هڪ ڊولپر دعوي ڪئي آهي ته ايپل جي الگورتھم کي ريورس انجنيئر ڪيو ۽ ڪوڊ جاري ڪيو GitHub- هن دعوي کي مؤثر طور تي ايپل طرفان تصديق ڪئي وئي.
GitHib جي آزاد ٿيڻ کان پوءِ چند ڪلاڪن اندر، محققن ڪاميابيءَ سان الورورٿم استعمال ڪيو هڪ ارادي غلط مثبت-ٻه مڪمل طور تي مختلف تصويرون ٺاهڻ لاءِ جيڪي ساڳي هيش جي قيمت پيدا ڪن ٿيون.اهو هڪ ٽڪر سڏيو ويندو آهي.
اهڙين سسٽمن لاءِ، هميشه ٽڪراءَ جو خطرو هوندو آهي، ڇاڪاڻ ته هيش يقيناً تصوير جي هڪ تمام آسان نمائندگي آهي، پر اها حيرت جي ڳالهه آهي ته ڪو ماڻهو ايترو جلدي تصوير ٺاهي سگهي ٿو.
هتي عمدي ٽڪراءُ صرف تصور جو ثبوت آهي.ڊولپرز کي CSAM هيش ڊيٽابيس تائين رسائي نه آهي، جنهن کي حقيقي وقت جي سسٽم ۾ غلط مثبت پيدا ڪرڻ جي ضرورت هوندي، پر اهو ثابت ڪري ٿو ته ٽڪرائي حملا اصولن ۾ نسبتا آسان آهن.
ايپل مؤثر طور تي تصديق ڪئي ته الورورٿم پنهنجي سسٽم جو بنياد آهي، پر ماء بورڊ کي ٻڌايو ته اهو حتمي نسخو ناهي.ڪمپني پڻ چيو آهي ته اهو ڪڏهن به ان کي رازداري رکڻ جو ارادو ناهي.
ايپل هڪ اي ميل ۾ مدر بورڊ کي ٻڌايو ته GitHub تي صارف پاران تجزيو ڪيل نسخو هڪ عام ورزن آهي، نه ته آخري ورزن iCloud Photo CSAM جي ڳولا لاءِ استعمال ڪيو ويو آهي.ايپل چيو ته اهو پڻ ظاهر ڪيو الگورتھم.
"نيورل هش الگورٿم [...] دستخط ٿيل آپريٽنگ سسٽم ڪوڊ جو حصو آهي [۽] سيڪيورٽي محقق تصديق ڪري سگھن ٿا ته ان جو رويو وضاحت سان مطابقت رکي ٿو،" هڪ ايپل دستاويز لکيو.
ڪمپني اڳتي هلي چيو ته ٻه وڌيڪ مرحلا آهن: هڪ ثانوي (ڳجهي) ميلاپ سسٽم کي پنهنجي سرور تي هلائڻ، ۽ دستي جائزو.
ايپل پڻ چيو آهي ته صارفين 30-ميچ جي حد کي پاس ڪرڻ کان پوء، ايپل جي سرورز تي هلندڙ هڪ ٻيو غير عوامي الگورتھم نتيجن جي جانچ ڪندو.
"هي آزاد هيش ان امڪان کي رد ڪرڻ لاءِ چونڊيو ويو هو ته غلط NeuralHash غير CSAM تصويرن جي مخالف مداخلت جي ڪري ڊيوائس تي اينڪرپٽ ٿيل CSAM ڊيٽابيس سان ملندو آهي ۽ ملندڙ حد کان وڌي ويندو آهي."
روبو فلو جي براد ڊائر هڪ طريقو ڳولي لڌو آساني سان ٻن تصويرن جي وچ ۾ فرق ڪرڻ لاءِ پوسٽ ڪيل هڪ تصادم جي حملي لاءِ تصور جي ثبوت طور.
مون کي تجسس آهي ته اهي تصويرون هڪ جهڙيون پر مختلف نيورل فيچر ايڪسٽرڪٽر OpenAI جي CLIP ۾ ڪيئن نظر اچن ٿيون.CLIP ساڳيو ڪم NeuralHash سان.اهو هڪ تصوير وٺندو آهي ۽ هڪ نيورل نيٽ ورڪ استعمال ڪري ٿو فيچر ویکٹر جو هڪ سيٽ ٺاهي ٿو جيڪو تصوير جي مواد کي نقشي ۾ ٺاهي ٿو.
پر OpenAI جو نيٽ ورڪ مختلف آهي.اھو ھڪڙو عام نمونو آھي جيڪو نقشو ڪري سگھي ٿو تصويرن ۽ متن جي وچ ۾.ان جو مطلب اهو آهي ته اسان ان کي استعمال ڪري سگهون ٿا انساني سمجھڻ واري تصوير جي معلومات کي ڪڍڻ لاء.
مون مٿيان ٻه ٽڪريون تصويرون CLIP ذريعي ڏٺا ته ڇا اهو پڻ بيوقوف هو.مختصر جواب آهي: نه.هن جو مطلب اهو آهي ته ايپل کي هڪ سيڪنڊ فيچر ڪڍڻ وارو نيٽ ورڪ لاڳو ڪرڻ گهرجي (جهڙوڪ CLIP) معلوم ٿيل CSAM تصويرن تي اهو طئي ڪرڻ لاءِ ته اهي حقيقي آهن يا جعلي.اها تصوير ٺاهڻ تمام گهڻو ڏکيو آهي جيڪي هڪ ئي وقت ٻن نيٽ ورڪن کي دوکو ڏين ٿيون.
آخرڪار، جيئن اڳ ذڪر ڪيو ويو آهي، تصويرون دستي طور تي نظرثاني ڪيا ويا آهن تصديق ڪرڻ لاء ته اهي CSAM آهن.
هڪ سيڪيورٽي محقق چيو آهي ته صرف حقيقي خطرو اهو آهي ته جيڪو به ايپل کي ناراض ڪرڻ چاهي ٿو انساني نظرثاني ڪندڙن کي غلط مثبت مهيا ڪري سگهي ٿو.
ايپل اصل ۾ هن سسٽم کي ڊزائين ڪيو آهي، تنهنڪري هيش فنڪشن کي ڳجهو رکڻ جي ضرورت ناهي، ڇو ته صرف هڪ شيء جيڪا توهان ڪري سگهو ٿا 'non-CSAM as CSAM' سان ايپل جي جوابي ٽيم کي ڪجهه فضول تصويرن سان ناراض ڪرڻ جيستائين اهي فلٽر لاڳو نه ڪن. analysis اهي گندگي پائپ لائن ۾ آهن غلط مثبت آهن،“ نڪولس ويور، انسٽيٽيوٽ آف انٽرنيشنل ڪمپيوٽر سائنس جي انسٽيٽيوٽ آف ڪيليفورنيا، برڪلي ۾ هڪ سينئر محقق، هڪ آن لائن چيٽ ۾ مدر بورڊ کي ٻڌايو.
رازداري اڄ جي دنيا ۾ وڌندڙ تشويش جو مسئلو آهي.اسان جي هدايتن ۾ رازداري، سيڪيورٽي، وغيره سان لاڳاپيل سڀني رپورٽن تي عمل ڪريو.
Ben Lovejoy هڪ برطانوي ٽيڪنيڪل ليکڪ ۽ EU ايڊيٽر آهي 9to5Mac لاءِ.هو پنهنجي ڪالمن ۽ ڊائري جي مضمونن لاءِ مشهور آهي، پنهنجي تجربي کي ايپل پروڊڪٽس سان گڏ وقت سان گڏ وڌيڪ جامع جائزو حاصل ڪرڻ لاءِ.هو ناول به لکي ٿو، ٻه ٽيڪنيڪل ٿرلر آهن، چند مختصر سائنس فڪشن فلمون ۽ هڪ روم-ڪام!
پوسٽ جو وقت: آگسٽ-20-2021