| English | 의미 |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | 컴퓨팅 편향 |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | 훈련 데이터 |
| diverse/daɪˈvɜːs/ | 다양한 |
프로그램에 내재된 부당함
- 컴퓨팅 편향은 개발자가 의도하지 않았더라도 프로그램에 내재된 부당함을 말합니다.
- 프로그램은 특정 집단을 다른 집단보다 불리하게 대우할 수 있습니다.
- 이는 항상 고의적인 것은 아니며, 프로그램이 어떻게 구축되었느냐에 따른 우연일 수 있습니다.
- 편향이 중요한 이유는 소프트웨어가越来越多的人에 대해 실제 결정을 내리게 되기 때문입니다.
컴퓨팅 편향이란:
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
실수로 특정 집단을 불리하게 대할 수 있습니다.
데이터에서 비롯되는 편향
- 주요 원인 중 하나는 프로그램을 구축하는 데 사용된 데이터입니다.
- 현대의 많은 프로그램이 패턴을 찾기 위해 연구하는 학습 데이터로부터 학습합니다.
- 만약 그 데이터에 편향이 있다면, 프로그램의 결과에도 편향이 나타납니다.
- 편향된 학습 데이터는 비대표집단에 대한 부당한 결과를 초래합니다.
편향이 프로그램에 유입되는 방식
편향된 학습 데이터는 프로그램이 치우친 패턴을 학습하게 하여 불공정한 결과를 낳습니다. 다양한 테스트를 통해 이를 발견하고, 대표적 데이터를 사용하면 편향을 줄일 수 있습니다.
예시를 통해 학습하는 프로그램은 패턴을 찾기 위해 ______ 데이터를 연구합니다.
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
편향된 학습 데이터는 편향된 결과를 초래합니다.
컴퓨팅 편향의 주요 원인은:
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
데이터가 치우치면 프로그램의 결과도 치우칩니다.
다양한 사용자 테스트
- 다양한 사용자 및 데이터를 활용한 테스트는 출시 전에 숨겨진 편향을 드러내는 데 도움이 됩니다.
- 모든 테스트 참여자가 동일해 보이는 경우, 편향은 여전히 보이지 않게 남습니다.
- 다변화된 테스트 세트는 프로그램이 어떤 집단에서 실패하는지를 노출시킵니다.
- 이것이 다양한 테스트가 필수적인 해결책이지 선택 사항이 아닌 이유입니다.
다양한 사용자 그룹으로 테스트하면 출시 전에 숨겨진 편향을 발견하는 데 도움이 됩니다.
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
다양한 테스트 세트는 각 그룹에서 발생할 수 있는 실패를 드러냅니다.
주로 밝은 피부색 남성에 대해 학습한 얼굴 인식 시스템이 다른 사람들에 대해 더 많은 오류를 발생시키는 이유는:
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
과소대표화된 집단은 더 나쁜 결과를 얻습니다.
개발자는 다음을 통해 편향을 줄일 수 있습니다:
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
대표적 데이터와 그룹 간 검증은 결과를 공정하게 만듭니다.
편향 감소
- 개발자는 대표성을 갖춘 데이터를 사용하고 다른 집단을 가로지르는 결과를 확인함으로써 편향을 줄일 수 있습니다.
- 목표는 소수만이 아닌 모두에게 공정한 방식으로 작동하는 프로그램입니다.
얼굴 인식. 주로 밝은 피부색 남성에게서 훈련된 시스템은 그들에게는 잘 작동하지만 여성과 어두운 피부색 사람들에게서는 훨씬 더 많은 실수를 범합니다. 학습 과정에서 이러한 얼굴을 덜 보았기 때문입니다. 개발자는 이를 의도하지 않았으며, 편향은 대표성을 잃은 학습 데이터에서 비롯되었습니다. 다양한 얼굴 세트를 활용한 테스트라면 이를 발견할 수 있었을 것입니다.
컴퓨팅 편향은 프로그램에 내재된 부당함으로, 종종 무심코 발생합니다. 주요 원인은 편향된 학습 데이터인데, 예시가 치우쳐 있으면 결과도 similarly 치우칩니다. 다양한 사용자를 통한 테스트는 출시 전에 숨겨진 편향을 드러내며, 대표성을 갖춘 데이터를 사용하고 집단을横断적으로 검증하면 이를 줄일 수 있습니다.