تستعين هيئة التأمينات الاجتماعية السويدية ببرنامج حاسوبي سري، يعتمد على الذكاء الصناعي، لمراجعة طلبات المساعدات المالية، حيث يركز البرنامج بشكل خاص على النساء، ذوي الدخل المنخفض والمهاجرين، وفقاً لما أفاد به الصحفي Ingvar Persson في مقال له بصحيفة "arbetet". يعمل البرنامج على محاولة تحديد مدى احتمال وجود أخطاء أو تلاعب في الطلبات المقدمة للحصول على مساعدات مالية، مثل تلك التي تقدم من أجل رعاية طفل مريض. وفي حال شك البرنامج في وجود تلاعب، يتم وضع الطلب في عينة عشوائية من المراجعات، مما يؤدي إلى تأخير صرف الأموال. بالنسبة لأولئك الذين يعيشون على حافة الدخل، قد يشكل هذا التأخير كارثة. لكن هذا ليس الأمر الوحيد المثير للقلق. فالنظام يعامل الأفراد بشكل غير متساوٍ. وفقاً لتحقيقات صحيفة "Svenska Dagbladet"، يظهر أن البرنامج يضع شكوكاً أكبر على النساء مقارنة بالرجال، كما يولي اهتماماً خاصاً لأولئك الذين لديهم دخل منخفض، تعليم محدود أو خلفية مهاجرة. فعلى سبيل المثال، يتم مراقبة الأمهات العازبات بشكل أكبر، في حين يتسلل الآباء ذوو الدخل المرتفع دون أن يتعرضوا للمراجعة. ومع أن استخدام الحواسيب في عمليات اتخاذ القرار أصبح شائعاً في العديد من المجالات لتوفير الوقت والتقليل من الانحياز الشخصي، إلا أن هذه الأنظمة تعتمد على المعطيات التي يتم برمجتها فيها. التمييز المدمج في الخوارزميات تظهر الخبرات السابقة أن هذه الأنظمة قد تتضمن تحيزات غير مرئية. ورغم أن هذه الحواسيب تعتمد على الحقائق، إلا أن تحديد "الحقائق" التي يتم معالجتها، وطريقة تحليلها، يعتمد بشكل كامل على كيفية برمجة هذه الأنظمة. مما يعني أن البرنامج قد يحدد النساء وأسماء مثل "فاطمة" أكثر من غيرها من الأسماء، مثل "إيفا"، وهو ما يعد تمييزاً غير مباشر، لكنه لا يختلف كثيراً عن التمييز الذي قد يحدث في حالة إجراء المراجعة بواسطة شخص بشري. في النهاية، قد يكون التمييز الذي يمارسه النظام نتيجة للبرمجة الأولية، لكن المشكلة تكمن في أنه من الصعب محاسبة هذه الأنظمة. فبخلاف البشر، يصعب توجيه اللوم لهذه الحواسيب التي تتخذ قرارات بشكل غير قابل للشرح. أنظمة سرية بلا رقابة تعد هذه الأنظمة غير شفافة على الإطلاق. إذ لا يتم إبلاغ الأفراد عن النقاط المخاطر التي حصلوا عليها أو السبب وراء اتخاذ النظام لهذه القرارات. والأسوأ من ذلك، أن الأفراد لا يعلمون حتى ما إذا كان قد تم إعداد ملف شخصي لهم أم لا. ويبرر المسؤولون في هيئة التأمينات الاجتماعية أن هذا السرية ضرورية لمنع الاحتيال، ولكن من المستغرب أن تكون المراجعة تجري في السر على الأمهات العازبات والأشخاص من خلفيات مهاجرة، بينما تتجاهل تصرفات الأشخاص ذوي الدخل المرتفع. فحص للمحتالين أو للأمهات العازبات؟ أثارت هيئة التأمينات الاجتماعية في السويد الجدل لفترة طويلة، خاصة فيما يتعلق بالقرارات السياسية التي تم اتخاذها حول فرض رقابة أشد وتخفيض المساعدات المقدمة. هذه السياسات كانت تهدف لتحميل المزيد من المسؤولية للأفراد الذين يعانون من المرض أو لديهم أطفال مرضى. وفي ظل هذه الضغوطات السياسية، يبدو أن هناك ثقافة من الشك قد نشأت في الهيئة، حيث يُنظر إلى الأشخاص الذين يستحقون الدعم على أنهم محتالون. وهذا يفسر لماذا تظهر التحقيقات وكأنها تتابع "جواسيس"، بينما يتم مراقبة الأمهات العازبات والآباء من خلفيات مهاجرة. في العادة، كان من المتوقع أن تؤدي هذه المعلومات إلى مطالبة الحكومة بالتحقيق في هذه القضايا بشكل جدي. ولكن بالنظر إلى الموقف السياسي الحالي في السويد، فإن هذه المطالب قد تكون بلا فائدة. ففي النهاية، إن الوزيرة "آنا تينجي"، التي تنتمي لحزب "المحافظين"، هي من أبرز المسؤولين عن هذه المشكلة ولن تُنتقد الهيئة بسبب ممارساتها المشكوك فيها ضد الأمهات العازبات أو الأفراد ذوي الخلفيات المهاجرة.