지켜보안
윤리/인권
똑똑한 기술에 안전을 더하다 :
인천국제공항보안(주) 임직원이 꼭 알아야 할
‘AI 윤리’ 가이드
들어가며: 편리한 기술의 이면, AI가 내린 오판의 무게
국내외에서는 AI 알고리즘의 오판이나 기계적인 데이터 처리의 한계로 인해 무고한 시민이 피해를 입는 사례가 발생하고 있습니다. 시스템이 내린 판단을 검증 없이 수용했을 때 얼마나 큰 리스크가 따르는지 보여주는 대표적인 사건들이 있습니다.
영국 런던에서는 귀가하던 한 시민이 경찰의 ‘실시간 얼굴 인식 기술(LFR)’ 오작동으로 용의자로 오인되어 체포 위협을 받는 일이 있었습니다. 시스템이 내린 점수를 현장 오퍼레이터가 별다른 확인 없이 받아들이면서 벌어진 이 사건은 기술을 활용하는 주체가 명확한 책임 의식을 갖지 않거나 오판에 대비한 제어 기준이 없을 때 심각한 인권 침해로 이어질 수 있음을 보여주었습니다. 또한 해외의 대형 항공사 ‘에어캐나다’에서는 생성형 AI 챗봇이 공식 규정에는 없는 환불 조건을 마음대로 지어내 안내하는 ‘환각(Hallucination) 현상’으로 법적 분쟁을 겪기도 했습니다.
이처럼 기술에만 전적으로 의존하다가는 자칫 인권을 침해하거나 기관에 거대한 리스크를 초래할 수 있습니다. 지능형 관제부터 업무용 생성형 AI까지 다양한 기술을 다루는 우리 회사 역시 이러한 위험성을 늘 경계해야 합니다. 편리함 속에서 인간의 존엄성과 도리를 지키기 위한 안전장치, 바로 ‘AI 윤리(AI Ethics)’가 필요한 이유입니다. 우리 인천국제공항보안(주)이 안전한 디지털 일상을 만들기 위해 주목한 핵심 가치들을 소개합니다!
디지털 시대를 살아가는 우리가 기억해야 할 AI 윤리 가이드라인
대한민국 정부의 「국가 인공지능(AI) 윤리기준」은 ‘인간성을 위한 인공지능(AI for Humanity)’을 최고 비전으로 삼고 있습니다.
우리 회사는 이 기준을 바탕으로, 최근 윤리위험성 평가를 실시하여 우리의 고유한 업무 환경을 다각도로 분석했습니다. 그 결과, 공항 보안 현장과 사무 환경에서 가장 선제적으로 대응해야 할 핵심 리스크이자 필수 요건으로 ‘책임성’과 ‘투명성’이 도출되었습니다. 우리가 안전한 디지털 일상을 위해 늘 마음에 새겨야 할 두 가지 요건을 소개합니다.
책임성 (Accountability) : “기술의 편리함 뒤에는 언제나 인간의 책임이 따릅니다”
인공지능은 업무를 돕는 도구일 뿐, 기계의 판단이 인간의 책임을 대신할 수는 없습니다. 기술적인 오판이 발생하더라도 마지막 순간에 이를 제어하고 바로잡는 주체는 언제나 ‘인간’이어야 하므로, 현장 활용 전 과정에서 책임 소재를 명확히 관리하는 것이 중요합니다!
투명성 (Transparency) : “디지털 보안의 신뢰는 투명한 설명에서 시작됩니다”
AI가 어떤 기준과 데이터로 결과를 도출했는지 명확히 알 수 없을 때 조직과 고객의 신뢰는 무너집니다. 따라서 보안 현장에 AI 서비스를 도입할 때는 작동 과정과 위험 요소를 투명하게 공유하고, 예기치 못한 오류가 발생했을 때도 원인을 추적할 수 있도록 ‘설명 가능성’을 확보해야 합니다!
데이터의 위험을 넘어 신뢰로: 우리 회사의 AI 리스크 대응 노력
우리 회사 역시 이러한 기술적 맹점과 리스크를 명확히 인지하고 있으며, 앞서 도출된 현황 진단 결과를 바탕으로 임직원과 시스템 모두를 안전하게 보호하기 위한 개선 활동을 본격 추진할 예정입니다.
이에 발맞추어 올해는 ‘인공지능(AI) 활용 데이터의 불확실성’을 위험 지표로 삼아, 첫 AI 윤리 대응 전략을 차근차근 준비해 가고자 합니다. 이에 따라 실무에서 발생가능한 AI 기술의 편향성과 불확실성을 최소화할 수 있는 관리 체계를 다져나갈 계획입니다.
이러한 개선 노력을 바탕으로 우리 회사가 그려갈 안전하고 올바른 AI 활용 환경, 과연 어떤 발걸음들이 기다리고 있는지 살펴볼까요?
- CEO 주관 「기관 AI 윤리원칙」 선포: 공항 전반의 디지털 혁신 흐름에 발맞추어, 우리 회사에서 AI 기술을 올바르게 활용하기 위한 기준을 마련해 가고자 합니다. AI의 판단에만 의존할 때 생길 수 있는 데이터의 오류나 편향성을 경계하고, 임직원 모두가 AI 리스크를 올바르게 인식할 수 있도록 돕는 방향으로 추진할 계획입니다.
- 근로자 AI 활용 가이드라인 수립: 급격하게 성장하고 있는 생성형 AI 기술의 활용 흐름에 발맞추어, 임직원 여러분들이 업무 중 발생할 수 있는 리스크를 예방하는 데 도움을 드리고자 합니다. 생성형 AI 활용 시 보안이나 윤리적으로 주의해야 할 사항들을 안내하여, 실무에서 안전하게 참고할 수 있는 길잡이를 마련해 나갈 계획입니다.
스마트한 도구는 현명하게 활용하되 동료와 나의 인권을 먼저 생각하는 성숙한 윤리 의식을 바탕으로, 더욱 건강하고 신뢰받는 인천국제공항보안의 일상을 함께 만들어갑시다.
