مشروع قانون يحظر استخدام أدوات الذكاء الاصطناعى الفاشلة باختبارات التحيز

قد تقلل مدينة نيويورك قريبًا من فرص استخدام الذكاء الاصطناعي في سوق العمل، حيث تشير وكالة أسوشيتد برس إلى أن مجلس المدينة قد أقر مشروع قانون يحظر أنظمة التوظيف بالذكاء الاصطناعي التي لا تجتاز عمليات التدقيق السنوية للتحقق من التمييز على أساس العرق أو الجنس. 

وسيحتاج المطورون أيضًا إلى قدر أكبر من الشفافية (بما في ذلك الإفصاح عن الأنظمة الآلية)، وتوفير بدائل مثل المراجعات البشرية، وقد تصل الغرامات إلى 1500 دولار لكل حادث.

وتم تمرير مشروع القانون في 10 نوفمبر، أمام العمدة المغادر بيل دي بلاسيو للتوقيع عليه ليصبح قانونًا، لكنه لم يقل ما إذا كان سيفعل أم لا، وإذا تم المضي قدمًا في الإجراء، فسيصبح ساري المفعول في عام 2023.

ويمكن أن يقلل القانون المُوقَّع من فرص أن تؤدي تقنية الذكاء الاصطناعي في التوظيف إلى تحريف مجموعات المرشحين والتركيبة السكانية للموظفين الناتجة، أما المنظمات المؤيدة للأعمال مثل غرفة التجارة في نيويورك تؤيد بالفعل، مما يشير إلى أن الإفصاحات ضرورية لكل من أصحاب العمل ومواهبهم.

ومع ذلك، هناك مخاوف بالفعل من أن القانون الذي تم سنه لن يساعد بقدر ما وعد به، حيث أخبرت ألكسندرا جيفنز من مركز الديمقراطية والتكنولوجيا وكالة أسوشييتد برس أن مشروع القانون لا يأخذ في الحسبان التحيزات الأخرى، مثل القدرة على التمييز أو الشيخوخة. 

ويفترض هذا أيضًا أن عمليات التدقيق فعالة – جادلت جوليا ستويانوفيتش من جامعة نيويورك بأن المتطلبات “كان من السهل جدًا تلبيتها”، هناك قلق من أن التشريع قد يحمي عن غير قصد أصحاب العمل الذين تمتلك منصات الذكاء الاصطناعي الخاصة بهم تحيزات مختلفة أو يصعب اكتشافها.