هوش مصنوعی کنترل استخدام برای مشاغل را به دست می گیرد

ارزش صنعت ارزیابی رزومه و استخدام توسط هوش مصنوعی اینک به بیش از 500 میلیون دلار رسیده است.

لس آنجلس – کوین کاربالو از زمان فارغ التحصیلی از دانشگاهی امریکایی، یعنی چهار سال پیش، تعداد دفعاتی را که برای شغلی درخواست داده و فقط ایمیل عدم پذیرش اتوماتیک و سریعی را – گاهی تنها چند ساعت پس از درخواست- دریافت کرده، از دستش در رفته است.

مانند بسیاری از جویندگان کار در سراسر جهان، درخواست های کاربالو به طور فزاینده ای توسط الگوریتم هایی بررسی می شوند که برای شناسایی کردن متقاضیان منطبق با خواسته های شرکت و علامت گذاری کردن درخواست آنها برای اطلاع مدیران استخدام کننده ساخته می شوند.

کاربالو، 27 ساله، که اهل امریکای لاتین است و اولین عضو خانواده اش است که به دانشگاه رفته، گفت: “این روزها راهی برای درخواست کار وجود ندارد بدون اینکه درخواست شما توسط نوعی سیستم اتوماتیک  تجزیه و تحلیل شود.”

کاربالو که امیدوار بود قبل از درخواست دادن به دانشکده حقوق، تجربه کار در شرکتی حقوقی را بدست آورد، گفت: “شبیه تیراندازی کردن در تاریکی آن هم با چشم های بسته است- واقعا راهی ندارم که بتوانم شرح کاملی از خودم را برای کسی که در خواست استخدام مرا می خواند تعریف کنم چون این ماشین است که در حال ارزیابی من است”.

از برنامه های هوش مصنوعی که حالات چهره متقاضی را هنگام مصاحبه ویدیویی ارزیابی می کنند، تا سیستم عامل های غربال کننده رزومه ها که عملکرد شغلی را پیش بینی می نمایند، ارزش صنعت استخدام توسط هوش مصنوعی اینک به  بیش از 500 میلیون دلار رسیده است.

الکس انگر، عضو موسسه بروکینگز، که در زمینه نقش هوش مصنوعی در فرایند استخدام تحصیل می کند، گفت: ” برنامه های بر اساس هوش مصنوعی برای استخدام در حال تکثیر هستند؛ آنها سریع هستند؛آنها نسبتاً ارزان هستند -آنها همه جا هستند.”

وی افزود: “اما در این مرحله، انگیزه بسیار کمی برای ساختن این ابزارها به روشی که اصلا سوگیری نداشته باشند، وجود دارد”. وی گفت: “هزینه و زمان آزمودن کامل سیستم از نظر سوگیری ممکن است گزاف باشد بدون مقرراتی که آن را الزامی کنند”.

 مهمترین دغدغه افرادی مثل کاربالو سوگیری نژادی (racial bias) است.

وی گفت: “من نگران هستم که این الگوریتم ها توسط افرادی مانند من و برای انتخاب کسانی همچون من طراحی نشده باشند”. وی افزود که تعداد زیادی ارزیابی مختلف هوش مصنوعی- از تجزیه و تحلیل ویدیویی تا بازی های منطقی سفارشی شده- را پشت سر گذاشته است.

خطر تبعیض همچنان مسئله اصلی برای قانونگذاران در سراسر جهان است و آنان همچنان که نحوه تنظیم استفاده از فناوری هوش مصنوعی، به ویژه در بازار کار، را ارزیابی می کنند این مساله را نیز در کانون توجه خود دارند.

اتحادیه اروپا قرار است قوانینی را درباره استفاده از هوش مصنوعی در استخدام وضع کند و قانونگذاران ایالات متحده در حال بررسی قوانین فدرال برای رسیدگی به سوگیری الگوریتمی هستند. سال گذشته، قانونگذاران در شهر نیویورک، قانونی را به طور ویژه برای تنظیم هوش مصنوعی در استخدام پیشنهاد کردند.


انگر گفت: “ما در حال نزدیک شدن به نقطه عطف هستیم.” “این  وضعیت شبیه میدان مین است.”

طبق جدیدترین نظرسنجی از سوی گروه صنعتی منابع انسانی مرسر، بیش از 55٪ از مدیران منابع انسانی در ایالات متحده از الگوریتم های پیش بینی کننده به منظور کمک گرفتن برای انتخاب در استخدام ها استفاده می کنند.

هوش مصنوعی در هر مرحله از مسیر استخدام، از آگهی های شغلی که متقاضیان بالقوه می بینند گرفته، تا تجزیه و تحلیل و ارزیابی درخواست ها و رزومه های آنها، در حال بکار گرفته شدن است.

همه گیری COVID-19 پذیرش این ابزارها را سرعت بخشیده است. HireVue، یک شرکت توسعه دهنده هوش مصنوعی که ابزارهایی برای تجزیه و تحلیل و امتیازدهی پاسخ هایی می سازد که متقاضیان کار در مصاحبه های ویدئویی می دهند، امسال افزایشی 46 درصدی استفاده را در مقایسه با سال گذشته گزارش کرده است.

مانیش راگاوان، متخصص کامپیوتر در دانشگاه کرنل که سوگیری در الگوریتم های استخدام کننده را مطالعه می کند، گفت: “افزایش استفاده از هوش مصنوعی می تواند فرصتی واقعی برای ریشه کن کردن تبعیض در فرآیند استخدام باشد”.وی گفت: “کسی نمی خواهد  به شما بگوید که استخدام سنتی عادلانه بوده است و با سیستم های هوش مصنوعی، می توانیم فرایند استخدام ها را بنحوی طی کنیم که قبلا نمی توانستیم، و یا حتی می توانیم سوگیری افراد هم را بیازماییم..”

کوین پارکر، مدیر اجراییHireVue، گفت که قرار دادن همه نامزدها در مصاحبه یکسان در حالی که توسط الگوریتم مشابهی داوری می شوند، ذهنیت و سوگیری مدیران استخدام کننده را در مصاحبه به حداقل می رساند. وی گفت: “ما می توانیم نحوه امتیازدهی زن و مرد را بسنجیم و چگونگی امتیازدهی افراد رنگین پوست در مقابل نامزدهای سفید پوست را مقایسه کنیم. ما واقعاً سعی می کنیم الگوریتم ها را تعدیل و بهتر کنیم تا هر چیزی را که می تواند تأثیر سوئی بگذارد، از بین ببریم و به برابری بسیار دقیقی برسیم.”

راگاوان گفت: ” اما مسئله این است که وقتی یک الگوریتم یادگیری ماشین را می سازید، سوگیری ممکن است از راههای بسیاری که تشخیص آنها دشوار است، وارد آن شود”.

انگر  نیز همان دیدگاه را تکرار کرده و می گوید: “نشان داده شده است که سیستم های پردازش زبان طبیعی نام های سفیدپوستان را به بیشتر واجد شرایط بودن مرتبط می کنند. نشان داده شده است که سیستم های غربال کننده رزومه ها، همه متقاضیانی را که به کالج زنان رفته اند، پاک می کنند”. وی افزود: “این میدان مین است”.

راگاوان گفت:”برای افراد جویای کار مانند کاربالو-که به اقلیت های قومی تعلق دارند – ابزارهای اتوماتیک می توانند به راحتی الگوهای تبعیض را تقویت کنند”.

در سال 2017، آمازون استفاده از  یکی از برنامه ها برای  غربالگر رزومه ها را که بر اساس هوش مصنوعی  کار می کرد متوقف کرد. این توقف پس از آن صورت گرفت که کاشف بعمل آمد که این غربالگر  طور خودکار در بررسی رزومه ها، امتیاز فارغ التحصیلان همه کالج های زنانه را کاهش می داد.

کاربالوگفت به این دلیل که متقاضیان اغلب راهی برای فهمیدن اینکه چطور امتیازبندی می شوند، ندارند، متعجب می مانند که آیا سوگیری اتفاق افتاده است یا نه.

“من اهل امریکای لاتین هستم و به دانشگاهی عالی نرفته ام و هر بار که پس از ارسال رزومه برای درخواست کار رد شده و مورد پذیرش قرار نمی گیرم دغدغه ام این می شود که نکند این سیستم برای حذف کردن فردی مثل من طراحی شده باشد.”

راه حل چیست؟ رسیدگی و الزامی کردن برخی مقررات یا ممنوعیت استفاده؟

راگاوان با استناد به تحقیقات خود که نشان می داد 12 شرکت از 15 شرکت بزرگ از تلاش هایی برای مقابله با تبعیض خبر داده اند، گفت صنعت استخدام با استفاده از هوش مصنوعی مشتاق است که از سوی افکار عمومی بعنوان مخالف و مبارزه کننده با سوگیری شناخته شود.

اما انگر این است که در حال حاضر شرکت ها انگیزه کمی برای سرمایه گذاری منابع قابل توجه در شناسایی و ریشه کنی سوگیری وجود دارد البته قانون گذاران هم هنوز در این مورد زیاد سخت گیری نمی کنند.

با این حال این مسئله با افزایش توجه سیاست گذاران به این صنعت می تواند تغییر می کند.

پیشنهادهای نظارتی که توسط پارلمان اروپا مورد بررسی قرار  می گیرند، هوش مصنوعی مورد استفاده در استخدام را “پر خطر” می نامند، به این معنی که همه شرکت هایی که چنین سیستم هایی را می فروشند، باید در پایگاه داده عمومی گنجانده شوند.

به گفته دانیل لوفر، تحلیلگر گروه حقوق دیجیتال Access Now ،اتحادیه اروپا الزاماتی بر شرکتهایی که این ابزارها را در اتحادیه اروپا می فروشند، اعمال می کند. از جمله این الزامات اطمینان از بکارگیری مجموعه داده هایی که “مرتبط relevant ، معرف بودن representative ، بدون خطا free of errors و کامل complete ” می باشند.

لوفر گفت که پیش نویس مقررات به اندازه کافی جامع نیستند و خواستار گنجاندن و ممنوعیت همه جانبه استفاده برخی از ابزارهای هوش مصنوعی در استخدام – شامل همه ابزارهایی که از اطلاعات بیومتریک مانند حرکات صورت یا تن صدا استفاده می کنند – شد.

وی گفت: “طول بینی من، نحوه صحبت کردنم، شیوه ای که دهانم را حرکت می دهم و…- نباید اجازه دهیم تا افراد استنباط خود از عملکرد شغلی کسی را بر اساس این نوع ورودی ها قرار دهند.”

در شهر نیویورک، شورای شهر در حال بررسی قانونی است که صنعت استفاده از هوش مصنوعی در استخدام را تحت مقررات قانونی قرار می دهد و شرکت ها را وادار می سازد تا به مسئله سوگیری رسیدگی کنند اما منتقدان نگران آن هستند که این قانون برای مهار تبعیض کافی نباشد.

آلبرت فاکس کان، مدیر اجرایی پروژه نظارت بر‌ اشتباهات فناوری (Surveillance Technology Oversight Project (STOP)) ،که خواهان مسدود سازی استفاده از هوش مصنوعی در استخدام تا زمان بررسی های بیشتر درباره سوگیری است، گفت: “یک الگوریتم ناقص می تواند صدها میلیون نفر را تحت تأثیر قرار دهد.”

گروه (STOP ) و 11 گروه دیگر حقوق دیجیتال و مدنی در اواخر سال گذشته طی نامه ای به شورای شهر نیویورک خواستار حمایت های بیشتر در این زمینه از جمله اجازه به متقاضیانی که مورد تبعیض قرار گرفتند، شدند تا بتوانند پرونده های قضایی در این مورد تشکیل دهند.

کان گفت: “ما باید تا زمانی که بتوانیم ساختارهای نظارتی موثری برای جلوگیری از تبعیض و جانبداری هوش مصنوعی ایجاد نماییم، استفاده از هوش مصنوعی را در ارزیابی درخواست های متقاضیان کار متوقف کنیم.”

در ماه آوریل، کاربالو که اول این مقاله را با دغدغه او شروع کردیم پس از کار در یک سری از مشاغل کوتاه مدت طی سال گذشته، سرانجام شغل تمام وقتی در یک شرکت حقوقی پیدا کرد. مدیر استخدام بدون استفاده از غربالگر هوش مصنوعی با او مصاحبه نمود.

وی گفت: “من فکر می کنم این مسئله مهم بود؛ اگر من فقط پسری از محله ای خشن با نام خانوادگی اسپانیایی نبودم، می توانستم تأثیر بگذارم.”

مطالب مرتبط : 

موجی از استعفاهای کارکنان از راه دور، در حال پدیدار شدن است

پنج اشتباهی که جویندگان کار در مصاحبه های تلفنی انجام می دهند

---

این مطلب برداشتی است آزاد از منبع زیر که توسط گروه مترجمانِ وب‌ سایت آینده تهیه شده است؛ بازنشر آن بدون ذکر منبع مجاز نیست و پیگرد حقوقی خواهد داشت.

برای اطلاع از تازه ترین اخبار کانادا به کانال تلگرامیِ آینده بپیوندید:           https://t.me/AyandehCanada

***به نقل از: japantimes.co.jp