The Social Dilemma

‫"لا يدخل شيء ضخم حياة البشر من دون لعنة"‬

‫"(سوفوكليس)"‬

‫نعم، تفضل، اجلس في وضعية مريحة لك.‬

‫هل أنت جاهز؟ حسنًا.‬

‫نعم.‬

‫اللقطة الأولى، كلاكيت.‬

‫هلا تبدأ بالتعريف عن نفسك؟‬

‫مرحبًا أيها العالم، أنا "بايلي"، اللقطة 3.‬

‫- هل أنت جاهز؟‬ ‫- هذا أسوأ جزء.‬

‫لا يروقني هذا.‬

‫عملت في "فيسبوك" في عاميّ 2011 و2012.‬

‫كنت من أوائل الموظفين في "إنستغرام".‬

‫عملت في "غوغل" و"يوتيوب".‬

‫عملت في "آبل" و"غوغل" و"تويتر" و"بالم".‬

‫سأعدت بتأسيس "موزيلا لابس"،‬ ‫ثم انتقلت إلى العمل في "فايرفوكس".‬

‫هل نصور؟ الجميع...‬

‫رائع.‬

‫عملت في "تويتر"، وكانت وظيفتي الأخيرة‬ ‫هناك هي نائب الرئيس الأعلى للهندسة.‬

‫كنت رئيس "بينتريست".‬

‫وقبلها، كنت مدير تحقيق الدخل‬

‫في "فيسبوك" لمدة 5 سنوات.‬

‫أثناء عملي في "تويتر"،‬ ‫قضيت عدة سنوات بإدارة تطوير منصتهم،‬

‫ثم أصبحت رئيس قسم منتجات المستهلك.‬

‫كنت المخترع المشترك لـ"غوغل درايف"‬ ‫و"جي ميل تشات"،‬

‫وصفحات "فيسبوك"،‬ ‫وزر "الإعجاب" في "فيسبوك".‬

‫نعم، لهذا أمضيت قرابة 8 أشهر‬

‫في التداول مع المحامين.‬

‫يثير هذا هلعي.‬

‫أثناء عملي هناك،‬ ‫شعرت دومًا بأنها قوة للخير بشكل أساسي.‬

‫لست واثقًا إن كان هذا هو رأيي الآن.‬

‫تركت العمل في "غوغل" في يونيو 2017‬ ‫بسبب مخاوف أخلاقية.‬

‫وليس في "غوغل" فحسب، بل في المجال برمته.‬

‫أنا قلق للغاية.‬

‫قلق للغاية.‬

‫من السهل اليوم أن ننسى حقيقة‬

‫أن هذه الأدوات قد صنعت في الحقيقة‬ ‫أشياء رائعة في العالم.‬

‫لقد جمعت شمل أفراد عائلات مفقودين،‬ ‫ووجدت متبرعين بالأعضاء.‬

‫كانت هناك تغييرات ذات مغزى ونظامية‬

‫تحدث في جميع أنحاء العالم،‬

‫بسبب تلك المنصات التي كانت إيجابية.‬

‫أظن أننا كنا نجهل بسذاجة‬ ‫وجهة النظر الأخرى للموضوع.‬

‫نعم، حال إطلاق هذه الأشياء،‬ ‫تصبح ذات حياة مستقلة بذاتها.‬

‫وطريقة استخدامها مختلفة تمامًا‬ ‫عما كنا نتوقعه.‬

‫أؤمن بشدة أنه لم يقصد أحد‬ ‫حدوث مثل هذه العواقب.‬

‫ليس هناك شخص سيئ واحد، قطعًا لا.‬

‫ما هي المشكلة إذًا؟‬

‫هل ثمة مشكلة؟ وما هي المشكلة؟‬

‫من الصعب إعطاء فكرة مختصرة واحدة...‬

‫أحاول التطرق نحو عدة مشكلات مختلفة.‬

‫ما هي المشكلة؟‬

‫"وثائقيات NETFLIX الأصلية"‬

‫رغم مواجهة انتقادات متصاعدة،‬

‫تظل ما يسمى بالشركات التقنية الكبرى‬ ‫تزداد كبرًا.‬

‫يخضع مجال التكنولوجيا بأكمله‬ ‫لنوع جديد من التدقيق.‬

‫وتسلّط دراسة جديدة الضوء على الرابط‬

‫بين الصحة العقلية‬ ‫واستخدام وسائل التواصل الاجتماعي.‬

‫سنتحدث عن آخر الأبحاث...‬

‫التي تحصل ولا تنال أي تغطية.‬

‫يدمن عشرات الملايين من الأمريكيين‬ ‫بشكل مستميت‬

‫على أجهزتهم الإلكترونية.‬

‫يتفاقم الأمر بسبب حقيقة‬ ‫أن بوسع المرء عزل نفسه حرفيًا الآن‬

‫"أشار صديقك إليك في صورة"‬

‫في فقاعة، بفضل تقنياتنا.‬

‫تصبح الأخبار المزيفة أكثر تقدمًا،‬

‫وتهدد المجتمعات حول العالم.‬

‫لم نكن نتوقع أي شيء من هذا‬ ‫عندما أنشأنا "تويتر" قبل أكثر من 12 سنة.‬

‫يقول المسؤولون‬ ‫إنهم ليس لديهم مبرر للاعتقاد‬

‫بأن هجمات الروس الإلكترونية ستتوقف.‬

‫أُجبر "يوتيوب" على التركيز‬ ‫على تطهير الموقع.‬

‫"تيك توك"، إن حاولتم مناقشة أي مراهق صغير،‬

‫فيستحيل أن يحذفوه...‬

‫"آيلا"، هلا تجهزين الطاولة من فضلك؟‬

‫يُطرح سؤال جدي حول‬

‫ما إذا كانت وسائل التواصل الاجتماعي‬ ‫تسبّب الاكتئاب لأبنائكم.‬

‫"آيلا"، هلا تجهزين الطاولة من فضلك؟‬

‫تزداد شعبية هذه العمليات التجميلية‬ ‫بين المراهقين،‬

‫حيث أطلق جراحو التجميل‬ ‫اسم متلازمة جديدة عليها،‬

‫وهي شذوذ "سنابشات"،‬ ‫حيث يرغب اليافعون بإجراء جراحة‬

‫حتى يبدون أشبه بالصور الذاتية المفلترة.‬

‫ما زلت لا أفهم لما سمحت لها‬ ‫بامتلاك هذا الشيء.‬

‫ماذا كان يُفترض بي أن أفعل؟‬

‫كل فتى في صفها لديه واحد مثله.‬

‫عمرها 11 سنة فقط.‬

‫"كاس"، لا يجبرك أحد على الحصول على واحد.‬ ‫يمكنك البقاء منعزلة قدر ما تشائين.‬

‫أنا متصلة بالعالم من دون هاتف خلوي،‬ ‫اتفقنا؟ أعمل على الإنترنت حاليًا.‬

‫كما أن هذا ليس تواصلًا حقيقيًا، بل هراء تام!‬

‫أصبحت رأسمالية المراقبة‬ ‫تشكّل سياساتنا وثقافتنا‬

‫بأشكال لا يتصورها معظم الناس.‬

‫ألهمت "داعش" المتابعين عبر الإنترنت‬

‫والآن يفعل أعضاء فكر سيادة البيض‬ ‫الأمر نفسه.‬

‫مؤخرًا في "الهند"،‬

‫قتلت عصابات الإنترنت دزينة من الناس‬ ‫من دون محاكمة بما فيهم هؤلاء الـ5...‬

‫ليست أخبار مزيفة فحسب،‬ ‫بل أخبار مزيفة ذات عواقب.‬

‫كيف تتعاملون مع وباء‬ ‫في عصر الأخبار المزيفة؟‬

‫أيمكن أن نُصاب بفيروس "كورونا"‬ ‫بأكل الطعام الصيني؟‬

‫لقد انتقلنا من عصر المعلومات الصحيحة‬ ‫إلى عصر المعلومات المضللة.‬

‫ديمقراطيتنا تحت وطأة الهجوم.‬

‫ما قلته،‬ ‫"أظن أن الأدوات التي صُنعت اليوم بدأت‬

‫في نحت النسيج الاجتماعي‬ ‫لكيفية سير المجتمع."‬

‫تقدّم "أسا" ملاحظات ترحيبية ونشغّل الفيديو.‬

‫ثم، "سيداتي سادتي،‬ ‫أقدّم لكم (تريستان هاريس)."‬

‫- صحيح.‬ ‫- عظيم.‬

‫حينها أصعد و...‬

‫"(هيومان) - برنامج جديد للتكنولوجيا"‬

‫أقول، "شكرًا على حضوركم."‬

‫أريد التحدث اليوم‬ ‫عن برنامج تكنولوجيا جديد،‬

‫ونريد فعل ذلك لأنه إن سألتم الناس،‬

‫"ما الخطب في مجال التكنولوجيا حاليًا؟"‬

‫ثمة هياج متنافر بين الشكاوى والفضائح‬

‫و"سرقوا بيناتنا" وإدمان على التكنولوجيا‬ ‫وأخبار مزيفة واستقطاب‬

‫واختراق عمليات التصويت في الانتخابات.‬

‫لكن هل هناك شيء وراء هذه المشاكل‬

‫الذي تسبب في حدوث تلك الأمور في آن واحد؟‬

‫- أهذا جيد؟‬ ‫- جيد جدًا. أجل.‬

‫أحاول... أريد أن يرى الناس...‬

‫ثمة مشكلة قائمة في مجال التكنولوجيا.‬

‫ليس لها اسم ولا بد أن يكون لها علاقة‬ ‫بمصدر واحد...‬

‫حين ننظر حولنا، نشعر أن العالم يُجن.‬

‫علينا سؤال أنفسنا، "أهذا طبيعي؟‬

‫أم نحن جميعًا تحت تأثير تعويذة ما؟"‬

‫"(تريستان هاريس)‬ ‫(غوغل) - المدير السابق لأخلاقيات التصميم‬

‫مركز التكنولوجيا الإنسانية - شريك مؤسس"‬

‫أتمنى أن يعلم المزيد كيفية سير هذا الأمر،‬

‫لأنه لا يجب أن يعرفه العاملون‬ ‫في مجال التكنولوجيا فحسب.‬

‫بل يجب أن يعرفه الجميع.‬

‫- مرحبًا!‬ ‫- مرحبًا.‬

‫- "تريستان". سُررت بلقائك.‬ ‫- أيُنطق "تريستان"؟‬

‫- أجل.‬ ‫- رائع.‬

‫"تريستان هاريس" هو مصمم أخلاقيات سابق‬ ‫لدى "غوغل"‬

‫ويُقال إنه أقرب شيء‬ ‫يمثّل ضمير "سيلكون فالي".‬

‫يطلب من صانعي التكنولوجيا‬

‫أن يضيفوا ما يسميه بـ"أخلاقيات التصميم"‬ ‫إلى منتجاتهم.‬

‫من النادر وجود شخص صريح عامل بالتكنولوجيا،‬

‫لكن يعتقد "تريستان هاريس"‬ ‫أنه على أحدهم أن يكون كذلك.‬

‫حين كنت في شركة "غوغل"،‬

‫كنت أعمل مع فريق "جي ميل"‬ ‫وبدأت في الشعور بالإرهاق،‬

‫لأننا أجرينا الكثير من المحادثات عن...‬

‫شكل ولون صندوق البريد الوارد.‬

‫وشعرت أنني مدمن على البريد الإلكتروني،‬

‫وما وجدته مذهلًا‬

‫أنه لا أحد في فريق "جي ميل"‬ ‫كان يعمل على جعله أقل إدمانًا.‬

‫فقلت، "هل يفكّر أحد آخر في هذا؟‬

‫لم أسمع أحدًا يتحدث عن هذا."‬

‫وكنت أشعر بالإحباط من مجال التكنولوجيا،‬

‫كأننا ضللنا طريقنا.‬

‫عانيت حقًا في محاولة معرفة‬

‫كم يمكننا تغييرها من الداخل.‬

‫وحينذاك قررت تقديم عرض تقديمي،‬ ‫كأنه دعوة لاتخاذ إجراءات.‬

‫كنت أعمل عليه لعدة ساعات ليلًا كل يوم‬ ‫حين أعود إلى المنزل.‬

‫ذُكر أنه لم يحدث ولا مرة في التاريخ‬ ‫أن 50 مصممًا‬

‫بين 20 إلى 35 عامًا من ذوي البشرة البيضاء‬ ‫في "كاليفورنيا"‬

‫قد اتخذوا قرارات تؤثر على ملياري شخص.‬

‫سيحظى مليارا شخص بأفكار‬ ‫ما كانوا ليفكروا فيها‬

‫لأن مصممًا لدى "غوغل" قال،‬ ‫"هكذا تعمل الإشعارات‬

‫على الشاشة التي تفتحونها في الصباح."‬

‫ونتحمل مسؤولية أخلاقية بصفتنا "غوغل"‬ ‫لحل هذه المشكلة.‬

‫وأرسلت هذا العرض التقديمي‬

‫إلى نحو 15 إلى 20 من أقرب زملائي‬ ‫في "غوغل".‬

‫كنت متوترًا جدًا،‬ ‫فما كنت أعرف كيف سيتقبّلونه.‬

‫حين ذهبت إلى العمل اليوم التالي،‬

‫كان العرض التقديمي‬ ‫يُعرض على معظم الحواسيت المحمولة.‬

‫"انتباه"‬

‫لاحقًا في ذلك اليوم،‬ ‫كان هناك ما يقرب من 400 مشاهد،‬

‫لذا تواصل العدد في الازدياد.‬

‫تلقيت رسائل إلكترونية‬ ‫من جميع أنحاء الشركة.‬

‫كان يقول العاملون في كل الأقسام،‬

‫"أوافقك الرأي تمامًا،‬ ‫أرى أن هذا يؤثر على أطفالي‬

‫وعلى من حولي. علينا فعل شيء حياله."‬

‫شعرت كأنني أطلق شرارة ثورة‬ ‫أو شيء من هذا القبيل.‬

‫عرفت لاحقًا أن "لاري بيدج"‬ ‫أُخطر بشأن هذا العرض التقديمي‬

‫في 3 اجتماعات منفصلة في ذلك اليوم.‬

‫لذا خلق الأمر ذلك النوع‬ ‫من اللحظات الثقافية‬

‫التي يجب أن تأخذها "غوغل" على محمل الجد.‬

‫ثم... لم يتغيّر أي شيء.‬

‫الجميع في عام 2006...‬

‫بما فيهم نحن جميعًا في "فيسبوك"،‬

‫كنا معجبين تمامًا بـ"غوغل" وما بنوه،‬

‫والذي كان يقدّم تلك الخدمة المفيدة المذهلة‬

‫التي قدّمت الكثير من الخير للعالم‬

‫وبنوا نظامًا موازيًا مدرًا للأموال.‬

‫كنا نحسدهم على ذلك‬ ‫وبدا كيّسًا بالنسبة لنا...‬

‫ومثاليًا.‬

‫كانت شركة "فيسبوك" موجودة منذ سنتين‬

‫ووُظفت حتى أستنتج‬

‫ماذا سيكون نموذج عمل الشركة.‬

‫كنت مدير تحقيق الدخل. وكانت الفكرة،‬

‫"أنت الشخص الذي سيعرف‬ ‫كيف ستدر هذه الشركة الأموال."‬

‫وكان هناك الكثير من الناس‬ ‫الذين أتمّوا الكثير من العمل،‬

‫لكنني بالتأكيد كنت أحد الأشخاص‬ ‫الذين يشيرون نحو...‬

‫يجب أن نجني الأموال، كنقطة أولى...‬

‫وأظن أن نموذج الإعلانات‬ ‫هو الطريقة المناسبة.‬

‫ما الفيديو الذي أرسلته أمي للتو؟‬

‫إنه من برنامج حواري، لكنه جيد جدًا.‬ ‫الرجل عبقري.‬

‫إنه يتحدث عن حذف وسائل التواصل الاجتماعي،‬ ‫وهذا ما عليك فعله.‬

‫ربما عليّ البدء في حجب رسائلها الإلكترونية.‬

‫لا أعرف حقًا عما تتحدث. إنها أسوأ مني.‬

‫- لا، تستخدمه فقط للحصول على الوصفات.‬ ‫- صحيح، والعمل.‬

‫- وفيديوهات التمارين.‬ ‫- وتفقد حالنا.‬

‫وجميع من قابلتهم في حياتها.‬

‫إن كنتم تتصفحون مواقع التواصل الاجتماعي‬