직장 모니터링은 어디에나 있습니다. 알고리즘이 사무실을 지배하는 것을 막는 방법은 다음과 같습니다.

새로운 보고서에서는 자동화된 직장 모니터링 및 의사 결정 도구의 급속한 증가로부터 우리를 보호하기 위한 5가지 권장 사항을 제시합니다.

알고리즘은 조직의 의사 결정에서 점점 더 많은 역할을 하고 있으며 많은 사회적, 윤리적 문제를 제기하고 있습니다.

의원과 동료 의원들로 구성된 위원회에 따르면, 직장 내 직원들을 모니터링하기 위한 알고리즘 사용과 의사 결정에서의 직원 역할에 대해 더 엄격한 규칙이 필요하다고 한다.

영국의 노동의 미래에 관한 전당 의회 그룹(APPG)은 알고리즘 감시 및 관리 도구에 대한 의존도가 높아짐에 따라 "영국 전역의 업무 조건과 질에 대한 심각한 부정적인 영향"과 관련이 있다고 경고했습니다.

특히, 광범위한 모니터링과 자동화된 의사 결정이 "근로자가 지속적인 실시간 미시적 관리 및 자동화된 평가의 극도의 압박을 경험함에 따라 정신적, 신체적 웰빙에 뚜렷한 부정적인 영향을 미치는 것"과 관련이 있음을 발견했습니다.

참조: 재택 근무자를 모니터링하는 사례가 크게 증가했습니다. 우리 모두 걱정해야 합니다

이 그룹의 보고서 '새로운 개척지: 직장에서의 인공지능' 은 유럽연합 집행위원회(European Commission)의 공동연구위원회(Joint Research Council)가 직장 내 전자 모니터링 및 감시에 대한 별도의 연구를 발표한 가운데 나왔다. 또한 AI 기반 도구의 폭발적인 성장은 근로자 복지에 심각한 위험을 초래하며, 사용을 규제하기 위한 조치를 취하지 않는 한 고용주와 직원 간의 신뢰를 약화시키고 추가적인 심리사회적 결과를 초래할 위험이 있음을 발견했습니다.

APPG 보고서는 "AI는 기존 규제 체제를 명백히 앞지르거나 피하는 방식으로 전국의 일과 직장 생활을 변화시키고 있다"고 밝혔다.

"국내에서는 경제 회복을 주도하고 해외에서는 리더십 역할을 하기 위해 기술에 대한 의존도가 높아짐에 따라 정부는 이러한 과제를 해결하기 위해 AI 규제에 대한 강력한 제안을 제시해야 합니다."

APPG는 영국의 AI 생태계에서 공정성과 투명성을 보장하기 위한 5가지 권고안을 제시하며, 특히 알고리즘 기반 모니터링, 관리 및 의사 결정 도구의 사용 및 규제와 관련해 권고안을 제시합니다.

권고안 1: 알고리즘에 대한 책임법(Accountability for Algorithms Act )

의회 간 그룹의 권고 사항의 핵심은 알고리즘 책임법(Accountability for Algorithms Act) 또는 'AAA'를 만드는 것입니다.

이는 직장에서 "AI를 통제하고 규제하기 위한 매우 중요하고 원칙 중심적인 프레임워크"를 제공할 뿐만 아니라 기계가 아닌 실제 사람이 알고리즘에 의해 내려진 중요한 결정을 감독할 수 있도록 하는 메커니즘을 제공할 것입니다.

참조: 알고리즘이 곧 고용과 해고를 담당하게 될 것이다. 모든 사람이 이것이 좋은 생각이라고 생각하는 것은 아닙니다

AAA에는 알고리즘 의사 결정이 업무나 근로자에 미치는 모든 중요한 영향을 고려하기 위해 새로운 권리와 책임이 포함됩니다.

효과적이려면 AAA는 다음과 같은 4가지 널빤지를 기반으로 해야 합니다.

알고리즘 결정의 영향을 받을 수 있는 개인 및 커뮤니케이션, 특히 취약한 사람들과 장애가 있는 사람들을 식별합니다.
잠재적인 선제적 조치, 특히 "개인 및 사회적 부상 방지"를 요약하는 것을 목표로 하는 위험 분석을 수행합니다.
수행된 모든 분석에 대응하여 적절한 조치를 취해야 한다는 것은 설계자, 개발자 및 공급망에 관련된 모든 사람이 알고리즘에서 식별된 모든 위험을 해결하고 완화해야 한다는 것을 의미합니다.
지속적인 영향 평가 및 적절한 대응 조치 - 영향 평가는 설계 주기의 초기 단계에서 처리되어야 하며 지속적이고 투명한 프로세스여야 합니다.

권장 사항 2: 디지털 보호 업데이트

AAA는 근로자에게 "직장에서 알고리즘 시스템의 목적, 결과 및 영향"을 자세히 설명하는 접근하기 쉬운 정보를 제공하고 근로자가 설계 및 사용을 형성하는 데 참여할 수 있는 권리를 제공하는 것을 포함하여 직장에서의 기술에 대한 기존 보호의 공백을 메워야 합니다.

그러나 이는 또한 온라인에서 점점 더 많은 시간을 보내고 디지털 시대에 업무의 부정적인 측면에 노출되는 데 더 많은 시간을 소비하는 직원들에 대한 여러 가지 보호 장치를 요구합니다.

참조: 더 많은 상사가 소프트웨어를 사용하여 원격 작업자를 모니터링하고 있습니다. 모든 사람이 그것에 대해 기뻐하는 것은 아닙니다

예를 들어, 보고서는 유연 근무를 하지 않을 강력한 사업적 인센티브가 없는 한 모든 직원에게 유연 근무를 할 권리가 주어져야 하며, 합의된 근무 시간 외에 업무에서 단절될 권리도 부여되어야 한다고 말하며, 이는 최근 상사가 직장 밖에서 직원에게 연락하는 것을 효과적으로 금지하는 법률을 도입한 포르투갈과 같은 유럽 국가에서 주목을 받고 있습니다.

이 보고서는 또한 모니터링 대상이 될 수 있는 직원에 대한 보호를 강화할 것을 촉구하며, 여기에는 자신의 데이터가 성과를 추적하는 데 어떻게 사용될 수 있는지에 대한 투명성이 포함됩니다.

따라서 AAA는 직장 모니터링 도구의 사용과 목적을 보다 명확하게 하는 수단이 되어야 하는 동시에 개발자를 저작권 침해로부터 보호하고 알고리즘이 근로자에 의해 악용되거나 "게임"되는 것을 막기 위한 보호 장치도 마련되어야 합니다.

권장 사항 3: 파트너십 접근 방식 활성화

AI 기반 도구가 더 많은 대중의 이익을 염두에 두고 설계되도록 하기 위해 정부는 개발자 및 더 넓은 AI 생태계와 파트너십을 개발해야 합니다.

노동조합과 NGO는 또한 직장에서 알고리즘이 어떻게 사용되는지에 대한 투명성과 참여를 요구할 수 있는 추가적인 권리를 부여받아야 한다.

보고서는 "이는 고용주가 직장에 중대한 영향을 미치는 알고리즘 시스템이 채택될 때 관련 노동조합에 알려 의미 있는 협의가 시작될 수 있도록 하는 것부터 시작해야 한다"고 밝혔다.

이 보고서는 노조가 AI 생태계에 더욱 통합되어야 한다고 촉구한다. "노조는 또한 AI 생태계 내에서 새로운 역할을 개발하여 증가하는 정보와 힘의 불균형을 바로잡고 공익을 위해 진정으로 인간 중심의 AI를 제공하는 데 도움이 되도록 허용되어야 합니다." 이 결의안은 영국 노동조합회의(TUC)가 인공지능 교육을 개발하고 노동자들에게 제공하는 역할을 맡을 것을 제안한다.

권고안 4: 실제 집행

보고서는 현재 정보위원회(ICO), 경쟁시장청(CMA), 통신국(Ofcom)으로 구성된 영국 정부의 디지털규제협력포럼(DRCF)을 확대해 영국의 인권을 증진하고 옹호하는 평등인권위원회(Equality and Human Rights Commission)를 포함해야 한다고 지적했다.

이 보고서는 DRCF가 디지털 및 온라인 규제에 대한 협력을 강화하기 위해 만들어졌지만, 누가 무엇을 책임지는지에 관해서는 여전히 "매우 엇갈린 그림"이 있다고 주장합니다. 이로 인해 특히 새로운 기술이 빠르게 발전함에 따라 근로자의 디지털 권리를 옹호할 책임이 있는 기관을 파악하려고 할 때 투명성이 문제가 됩니다.

SEE: 알고리즘이 우리를 지켜보고 있지만, 누가 알고리즘을 지켜보고 있는가?

보고서는 "우리는 기존 보호 장치와 함께 규제 공통 역량을 확립하고 AAA를 시행하기 위한 새로운 메커니즘과 자원이 필요하다"고 밝혔다. "DRCF의 회원과 소관은 EHRC와 고용 권리를 위한 새로운 단일 집행 기관을 포함하도록 확대되어야 합니다."

DRCF는 또한 거버넌스에 대한 다양한 접근 방식을 실험하기 위해 규제 샌드박스를 실행할 수 있는 수단을 제공해야 합니다.

권장 사항 5: 인간 중심 AI 지원

APPG의 다섯 번째 권고안은 영국이 직장에서 새로운 AI 및 자동화 기반 기술의 개발 및 적용에 기본권과 가치의 집합을 통합할 것을 제안합니다.

구체적으로, 유럽 사회 헌장(European Social Charter)과 경제적, 사회적, 문화적 권리에 관한 국제 규약(International Covenant on Economic, Social and Cultural Rights)에서 보호되는 권리와 자유를 통합한 APPG의 굿 워크 헌장(Good Work Charter)이 지난 9월 발표된 영국의 국가 AI 전략에서 중심적인 역할을 할 것을 촉구합니다.

보고서는 "모두를 위한 굿워크(Good Work for all)에 더욱 집중하면 인간 중심의 인공지능(AI)과 인간 중심의 인공지능 생태계를 개발할 수 있을 것"이라고 밝혔다.