'خاطرات از دست رفته': اگرایران تهدید هوش مصنوعی اعتدال

اما در این ماه 21 ساله شروع به گرفتن خودکار ایمیل از یوتیوب <یوتیوب, Inc> هشدار او که فیلم های خود را نقض سیاست خود را که آنها می تواند حذف شود. به عنوان این ماه بیش از یک دوجین از فیلم حذف شده بود, او گفت:.

"مستند (سوریه) تظاهرات در ویدئوها واقعا مهم است. همچنین مستند حملات توسط نیروهای رژیم," او گفت: بنیاد تامسون رویترز در یک مصاحبه تلفنی. "این چیزی است که من تا به حال مستند برای جهان و در حال حاضر از آن حذف شده است."

YouTube, Facebook و توییتر هشدار داد در ماه مارس که ویدئوها و مطالب دیگر ممکن است به اشتباه حذف شده برای سیاست نقض به عنوان بیماری همه گیر کوروناویروس آنها را مجبور به خالی ادارات و تکیه بر خودکار حذف نرم افزار.

اما کسانی که هوش مصنوعی-فعال ابزار خطر گیج کننده حقوق بشر و اسناد تاریخی مانند Wong را ویدئوها با مشکل مواد مثل تروریستی محتوا - به خصوص در جنگ زده کشورهایی مانند سوریه و یمن دیجیتال فعالان حقوق زن هشدار داد.

"هوش مصنوعی بدنام زمینه-blind" گفت: Jeff داچ یک محقق برای سوریه بایگانی, یک سازمان غیر انتفاعی است که archives تصویری از مناطق جنگی در خاورمیانه است.

"این است که اغلب قادر به ارزیابی تاریخی و سیاسی و یا زبانی تنظیمات پست ... اسناد حقوق بشر و خشونت افراطی پیشنهادات بیش از حد اغلب غیر قابل تشخیص او گفت:" در یک مصاحبه تلفنی.

اشتباه takedowns تهدید محتوا مانند فیلم استفاده می شود که به عنوان رسمی مدارک و شواهد از نقض حقوق بشر توسط نهادهای بین المللی از جمله دادگاه جنایی بین المللی و سازمان ملل متحد گفت: Dia Kayyali از حقوق دیجیتال گروه شاهد.

"این یک طوفان کامل" تکنولوژی و دفاع تأکید کرد.

پس از تامسون رویترز پایه پرچم News حساب برای یوتیوب, یک سخنگوی این شرکت حذف شده بود در خطا اگر چه حذف شد اعتراض خود را از طریق فرآیند داخلی است. آنها در حال حاضر ترمیم 17 از Wong را ویدئوها.

"با این حجم عظیم از ویدئوها در سایت ما گاهی اوقات ما را به اشتباه تماس" سخنگوی گفت: در ایمیل و نظرات. "هنگامی که آن را به ارمغان آورد به ما توجه است که یک ویدیو حذف شده است, اشتباه ما به سرعت عمل به آن دوباره."

حذف

در سال های اخیر سیستم عامل رسانه های اجتماعی آمده اند تحت فشار از سوی دولت به سرعت حذف محتوای خشونت آمیز و دروغ از خود سیستم عامل - افزایش اتکا به هوش مصنوعی و سیستم های.

با کمک نرم افزار خودکار یوتیوب, حذف میلیون ها نفر از فیلم ها در سال Facebook حذف بیش از 1 میلیارد دلار در حساب های سال گذشته برای نقض قوانین مانند ارسال تروریستی محتوا.

سال گذشته رسانه های اجتماعی شرکت های متعهد به بلوک های تندرو مطالب زیر livestreamed حمله تروریستی در Facebook یک فرد مسلح به قتل 51 نفر در دو مسجد در Christchurch, New Zealand.

دولت ها به دنبال کت و شلوار با رئیس جمهور فرانسه امانوئل پاکسازی تعهد به فرانسه یک رهبر در مهار گسترش محتوای غیرقانونی و اطلاعات نادرست در سیستم عامل رسانه های اجتماعی.

اما این کشور به دادگاه عالی این هفته را رد کرد و بیشتر از پیش نویس یک قانون است که باید مجبور غول رسانه های اجتماعی به حذف هر گونه نفرت محتوا در عرض 24 ساعت.

شرکت هایی مانند Facebook نیز متعهد به حذف اطلاعات غلط در مورد شیوع کروناویروس است که می تواند کمک به قریب الوقوع آسیب فیزیکی.

این فشارها همراه با افزایش تکیه بر هوش مصنوعی در طول بیماری همه گیر قرار می دهد حقوق بشر محتوای خاص در معرض خطر گفت: Kayyali.

ردیابی محتوا

رسانه های اجتماعی شرکت ها به طور معمول انجام نمی افشای چگونه اغلب آنها AI ابزار اشتباه کردن محتوا.

بنابراین سوریه بایگانی شده را با استفاده از داده های خود را به تقریبی در طول زمان تغییر در میزان حذف از اسناد حقوق بشر در جنایات در سوریه است که ضرب و شتم توسط نزدیک به یک دهه از جنگ.

این گروه پرچم حساب ارسال حقوق بشر محتوا در رسانه های اجتماعی سیستم عامل بایگانی نوشته ها را بر روی سرور خود. به تقریبی میزان حذف آنها اجرای یک اسکریپت pinging پست اصلی هر ماه برای دیدن اگر آن را حذف شده است.

"تحقیقات ما نشان می دهد که از ابتدای سال, نرخ مطالب takedowns از حقوق بشر سوریه مستندات در یوتیوب تقریبا دو برابر (از 13% به 20%) گفت:" داچ خواستار افزایش "unprecendented".

در سوریه بایگانی شناسایی بیش از 350,000 ویدئوها در یوتیوب ناپدید شده بود تا از 200,000 در مارس 2019 از جمله ویدئوها از حملات هوایی تظاهرات و تخریب خانه های غیر نظامیان در سوریه است.

داچ گفت که او تا به حال دیده محتوای takedowns در دیگر جنگ زده کشورهای منطقه از جمله یمن و سودان است. "کاربران در مناطق جنگی هستند بیشتر در معرض," او گفت:.

گروه های دیگر از جمله سازمان عفو بین الملل و شاهد هشدار داده اند این روند در جاهای دیگر از جمله در کشورهای جنوب صحرای آفریقا.

سوریه بایگانی قادر به تست برای takedowns در Facebook به دلیل خارج از محققان در حال محدود از پلت فرم رابط کاربردی برنامه نویسی (API).

اما در اوایل این ماه در سوریه شروع به استفاده از هشتگ "Facebook مبارزه با Syran انقلاب" به پرچم محتوای مشابه takedowns بر روی پلت فرم.

ماه گذشته یحیی Daoud سوریه بشردوستانه کارگر با کلاه پاسخ اضطراری گروه مشترک یک پست و یک عکس نشان دادن یک زن که فوت در سال 2012 کشتار توسط نیروهای بشار اسد در Houla منطقه است.

با پایان ماه داود گفت: حساب خود را - که او استفاده می شود از سال 2011 به سند خود از زندگی در سوریه - به طور خودکار حذف شده و بدون توضیح. "من با توجه به در Facebook به یک بایگانی برای من," او گفت:.

"خاطرات بسیاری را از دست داده است: مرگ من, دوستان من آواره مرگ مادر من," او گفت:, و اضافه کرد که او تا به حال تلاش ناموفق برای درخواست تجدید نظر تصمیم گیری از طریق Facebook خودکار شکایات سیستم.

Facebook پاسخ نمی دهند به درخواست برای اظهار نظر.

"ما نمی شنوایی آنها'

محققان می گویند که آنها تنها قادر به تشخیص یک تکه کوچک از اشتباه در مطالب takedowns.

"ما نمی دانیم که چگونه بسیاری از مردم در حال تلاش به صحبت می کنند و ما نمی شنوایی آنها گفت:" الکسا Koenig, مدیر دانشگاه کالیفرنیا در برکلی مرکز حقوق بشر.

"این الگوریتم در حال گرفتن محتوا قبل از ما حتی دیدن آن گفت:" Koenig که مرکز با استفاده از تصاویر و فیلم های ارسال شده از مناطق جنگی مانند سوریه به سند نقض حقوق بشر و ساخت موارد است.

یوتیوب گفته است که 80 درصد فیلم پرچم آن AI حذف شد قبل از هر کسی که تا به حال دیده می شود آنها را در سه ماهه دوم سال 2019.

که نگرانی Koenig که نگرانی که erasure از این فیلم ها می تواند خطر انداختن تحقیقات در حال انجام در سراسر جهان است.

در سال 2017 دادگاه جنایی بین المللی را صادر کرد اولین حکم بازداشت که استراحت در درجه اول در رسانه های اجتماعی شواهد تصویری پس از ظهور در Facebook لیبی فرمانده محمود al-Werfalli.

این ویدئو ظاهرا به او نشان داد تیراندازی مرده 10 برابر زندانیان در سایت یک خودروی بمب گذاری شده در بنغازی. او هنوز هم در بزرگ است.

Koenig نگرانی این نوع از اسناد و مدارک است که در حال حاضر تحت تهدید: "خطر بسیار بالاتر از آن فقط چند ماه پیش" او گفت:.

"این یک احساس مشمئز کننده به می دانم که ما نمی نزدیک به جایی که ما باید در حفظ این محتوا است."