멜라닌 편향된 소프트웨어는 오류의 여지가 많습니다.
온라인 쇼핑은 소매점이 일반적으로하지 않는 것을 제공합니다 : 개인화. 상점의 스마트 폰 앱이나 웹 사이트에 로그인 할 때 알고리즘은 내가 누구인지 기억합니다. 구매할 가능성이 가장 큰 것을 제안하십시오. 과거의 구매를 강조하십시오; 좋아하는 브랜드, 스포츠 팀 또는 음식을 추적 할 수 있습니다.
따라서 얼굴 인식을 사용하여 소매점 내부에서 동일한 개인 설정을 사용할 수 있다고 상상해보십시오. 키오스크 또는 카메라로 걷는 순간 얼굴이 스캔됩니다. 서있는 곳 어디에서나 옷을 리 폴딩하는 소매점 점원을 건너 뛰거나 "뭔가 필요하다면"반복적으로 묻는 것이 이상적입니다. 상점에 입장 할 수 있고 소프트웨어의 알고리즘이 이미 반복 고객임을 확인하는 것이 이상적입니다.
작년에 Cali Group (CaliBurger의 소유자)은 자사의 매장 충성도 프로그램을위한 안면 인식 소프트웨어를 조종했습니다. 전국 소매 연맹 (National Retail Federation)의 연례 전시회에서 사용 된이 소프트웨어는 등록 고객을 파악하고 고객 계정을 활성화하며 웨스트 코스트 레스토랑에서 자신이 좋아하는 식사를 표시 할 수 있습니다. 신용 카드 대신 레스토랑은 얼굴 기반 지불 계획의 초기 단계에있었습니다.
유색 인종의 사람들을 위해 얼굴 인식은 가게 주변을 따라 다니는 소매 점원처럼 스트레스를 많이받을 수 있습니다.삼성 전자와 AT & T는 엑스포에서 얼굴 인식 소프트웨어도 사용했다고 포브스는 전했다. 이 회사는이 인구 통계를 계산하고 트래픽을 저장하고 매장 직원에게 들어오는 쇼핑객의 이름을 보내도록 소프트웨어를 사용했습니다. Walmart조차도 구매자의 기분을 감지 할 수있는 안면 인식 소프트웨어 특허를 개발하고 있습니다. 클로버 리프의 쉘프 포인트 (shelfPoint)와 마찬가지로 목표는 고객이 뭔가 눈을 뗄 수 없을 때 느끼는 고객의 감정을 파악하는 것입니다.
이 소프트웨어는 소매 업체가 고객에게보다 익숙해지고, 도둑질의 위협을 낮추며, 온라인 및 오프라인 매장 간의 격차를 좁히는 데 도움이 될 수 있습니다. 그러나 유색 인종의 사람들에게는 가게를 따라 다니는 소매점 직원처럼 스트레스를받을 수도 있습니다.
디지털 세계에서 시민의 자유를 지키고있는 비영리 단체 인 Electronic Frontier Foundation에 따르면 안면 인식 소프트웨어는 오류가 발생할 수 있습니다. 특히 색, 여성 및 젊은 그룹의 사람들을 식별하는 것이 더욱 어려워집니다. 소프트웨어가 "거짓 음성"을보고하면 사람의 얼굴을 전혀 일치시킬 수 없습니다. "거짓 긍정"은이 사람을 다른 사람으로 식별 할 수 있습니다. 법 집행의 경우 이는 상당한 문제를 야기 할 수 있습니다. 2013 년부터 샌디에고 경찰은 TACIDS (Tactical Identification System)를 통해 관심을 가진 사람의 사진을 찍고 사진을 찍을 수 있습니다. 그 사진은 백만 장 이상의 다른 예약 촬영에 대해 분석 될 수 있습니다.
백인 남성의 경우 소프트웨어가 99 %의 시간 동안 올바르게 작동합니다. 어두운 피부의 여성의 경우 오류가 거의 35 % 증가했습니다.촬영 된 사람이 이미 머그컵을 쓴 사람처럼 보이면 체포되었는지 여부에 상관없이 부당한 체포로 이어질 수 있습니다. 대부분 아프리카 계 미국인, 라틴계 혈통의 사람들, 이민자로 구성된 데이터베이스를 가지고 있기 때문에 확률은 소수 민족이 아닌 사람들보다 비슷한면을 찾기 쉽습니다.
백인 남성의 경우 New York Times는 소프트웨어가 99 %의 시간 동안 올바르게 작동한다고보고합니다. 가벼운 피부의 여성은 최대 7 %의 성별로 오인되었다. 그러나 어두운 피부의 남성의 경우 오류율이 최대 12 %까지 상승했습니다. 어두운 피부의 여성의 경우 오류가 거의 35 % 증가했습니다.
조이 부 올람 위니 (Joy Buolamwini) MIT 미디어 랩의 한 연구원은 안면 인식 소프트웨어가 얼굴을 완전히 인식 할 수 있도록 흰색 마스크를 낀 채로 가야했습니다. Buolamwini는 얼굴 인식 문제에 대한 TED Talk를 작성하고 Algorithmic Justice League를 설립하여 얼굴 인식 소프트웨어 편향의 희생자임을보고 할 수있는 플랫폼을 사람들에게 제공했습니다.
그녀는 학계에서 최초로 주목하지 않습니다. 조지아 공과 대학 (Georgia Institute of Technology)의 부학장 인 Charles Isbell은 인공 지능으로 30 년 이상의 멜라닌 편향을보고했다.
...............
거의 모든 소프트웨어의 주요 결함으로 인해 회사는 왜 계속해서 투자하고 있습니까?
일부 들어, 여전히 편의와 돈의 문제로 온다. 2017 년, LPGA (Ladies Professional Golf Association)는 캘리포니아 컨트리 클럽 입구의 비디오 얼굴 인식 기술을 사용했습니다. 그것은 미디어 회원들이 VIP 섹션에 액세스하고 LPGA 이벤트 주변의 보안 영역을 확보 할 수 있도록 도왔습니다. 골프 이벤트에 참석 한 사람들은 LPGA 메이저 챔피언십을 경축하는 동안이 높은 수준의 보안이 사용된다는 것을 안다는 것을 안다는 생각이 들었을 것입니다.
매디슨 스퀘어 가든은 이미 NBA 게임 (뉴욕 닉스)과 NHL 게임 (레인저스)에 사용했다. 팬들은 게임을 시청하거나 키스하기 위해 현장으로 확대하여 즐겁게 할 수 있지만 MSG의 360도 기가 픽셀 이미지는 여성 대 남성, 인종 식별, 연령 예측, 심지어 팬들이 자신의 소셜 미디어에서 스폰서 이벤트를 홍보 할 수있는 기회를 제공 할 수 있습니다.
.............
공무원과 정치인은 소매 조직, 식당, 스포츠 경기장 및 기타 조직에서 인공 지능을 계속 사용하면서 조용히 앉아있는 것은 아닙니다. 일부는 시정 될 때까지 그 존재에 도전하고 있습니다. 7 명의 의회 구성원은 인공 지능이 상업 및 감시에 어떻게 영향을 미치는지 알고 싶어하는 FTC (Federal Trade Commission), FBI (Federal Bureau of Investigation) 및 EEOC (Equal Employment Opportunity Commission)에 편지를 보냈습니다.
민주당 대선 후보자 인 Kamala Harris와 Elizabeth Warren은 Patty Murray 상원 의원과 함께 EEOC에 기술이 1964 년의 민권법, 1963 년의 평등 한 지불법 및 / 또는 1990 년의 미국 장애인 법을 위반하는지 여부를 결정하도록 요청했습니다. 많은 사람들이 AI 문제에 대해 솔직한 의견을 밝혔습니다. 그리고 색채가 풍부한 사람들은 A.I.의 결점이 다가오는 대통령 토론에서 뜨거운 주제가 될 수있는 최초의 사건 일 수 있습니다.
Hiç yorum yok:
Yorum Gönder