[Daily IT News] 자율주행, 사이버보안, 인공지능 편향

사이버 보안이라는 것이 비즈니스적인 측면에서 고정된 시스템에 대한 이슈 뿐만 아니라 자율주행과 같은 교통 체계에서도 중요하게 생각해야 하는 부분인 것 같습니다. 그리고 무엇보다 소프트웨어(SW)를 기반으로 하기 때문에 그에 대한 시큐어 코딩도 중요하지 않을까 하는 생각입니다. 

금일(2022.04.11. 월) 신문리뷰 입니다

---

 

● 전자신문

구분	헤드라인	설명
(서비스) 자율주행	[모빌리티칼럼] 자율주행 기술 효율화를 통한 안전한 도로 환경 구현	>> 최근 자동차에 자율주행이나 인포테인먼트 시스템과 같은 정보기술(IT)이 도입되면서 자동차 산업은 물리적, 기계적 구조가 주도하는 산업이 아니라 소프트웨어(SW) 중심 산업으로 변모하고 있다. 이 같은 변화는 글로벌 선도 기업들의 행보에서 더욱 명확하게 나타난다. 구글·아마존·바이두 등 SW·플랫폼 분야에 강점이 있는 IT 기업들이 자율주행 택시, 물류 배송과 같은 미래 모빌리티 사업을 주도하고 있다. 메르세데스벤츠, 폭스바겐 등 전통적인 자동차 업계 선도 기업들도 인공지능(AI) 플랫폼 기업과의 협업을 강화하거나 전문 조직을 설립하는 등 역량 강화에 초점을 맞추고 있다. 업계의 빠르고 도전적인 변화는 우리 삶의 실질적인 변화에 근거를 두고 있다. 인구 증가로 우리 주거 공간은 빠르게 도시화하고 있다. 차량을 통한 도심 내 및 도시 간 이동과 물류 운송은 더욱 활발해졌다. 특히 코로나 팬데믹과 같은 특수 상황에서 개인화된 이동 수단, 택배와 같은 물류 운송 서비스 사용을 선호하는 경향이 강해졌다. 세계 각국의 정부와 기업들은 더욱 안전한 도로 환경을 구축하기 위한 제도적, 기술적 노력에 집중하고 있다. 첨단운전자보조시스템(ADAS)을 포함해 안전 규정 강도를 대폭 높인 '신차평가제도'를 도입하고 있다. 대표적으로 자동비상제동장치, 차로이탈경고시스템, 후측방경보시스템 등 기존의 고급 차량에 탑재되던 안전 기능들이 이제 폭넓은 차종에 기본으로 탑재되기 시작했다. ADAS 및 자율주행에 대한 안전 규제가 강력해짐에 따라 자동차가 갖춰야 하는 주행 환경 인식 정밀도에 대한 기대 수준도 높아졌다. 차량에 탑재되는 센서가 점차 증가하고 있으며, 종류도 다양해지고 있다. 운전자와 보행자 안전을 완벽하게 보장하기 위해 강력한 SW와 하드웨어(HW) 기술이 자동차에 결집하고 있다. 많은 자동차 및 자율주행 기업들이 최신 기술을 개발하고 있는 가운데 자율주행 기술 보급을 위해 가장 중요하게 해결해야 할 과제는 '효율화'다. 자율주행 기술 개발의 가장 큰 목적은 바로 운전자와 보행자 모두에게 안전한 도로 환경을 제공하는 것이다. 그리고 이러한 기술의 혜택이 도로 환경 전반에 걸쳐 보급하려면 고가의 차량뿐만 아니라 하위 차종에 이르기까지 다양한 라인업에 적용될 수 있는 효율성과 가격 경쟁력을 갖춰야 한다. 실제로 최근 업계는 ADAS 기능이나 자율주행에 필요한 각종 인식 및 제어 SW를 경량화해서 컴퓨팅 HW의 단가를 낮추거나 동일한 조건에서 더 많은 센서와 연동하고 다양한 기능을 수행하게 하는 데 초점을 맞추고 있다. 또 라이다 같은 고가 장비를 상대적으로 저렴한 카메라로 대체하는 '의사라이다'와 같은 신기술도 개발되고 있다. 사실 자율주행차 미래가 업계의 전망보다 더 더디게 올 것이라는 일부 전망도 있다. 안전과 생명을 담보한 산업이 갖춰야 할 높은 기준과 기술력, 이를 사회 전반에 확산할 수 있는 효율성, 이와 함께 사회적 신뢰를 얻을 수 있는 제도적 장치 마련과 인식 개선에 많은 시간·노력이 필요하기 때문이다.
(보안) 사이버 보안	사이버보안관리 시스템 보안 코딩 대응 방안 준비되어 있는가	>> 차량간통신(V2V와 V2X), 차량·인프라스트럭처간통신(V2I) 등 도로 위 차량의 안전 운행과 운행 효율성 제고를 위한 운행 정보 제공 서비스가 빠르게 성장하고 있다. 차량과 차량 외부 간 통신 인터페이스가 확장되고, 차량과의 송수신 데이터가 늘어남과 동시에 차량의 사이버 보안 중요성 역시 함께 강조되고 있다. UNECE WP.29는 이러한 차량 연결성과 사이버 보안 환경에 대응하기 위해 UNR No.155에 대한 인증 취득을 요구, 사이버 위험에 대해 차량 제조사와 협력사가 체계적으로 대응해야 할 규제를 공표했다. 특히 CSMS(사이버 보안 관리 시스템)는 차량의 전기·전자 부품에 대한 보안뿐만 아니라 사이버 보안을 위한 조직 프로세스, 책임, 관리, 리스트 평가 방법 등이 반영된 거시적 규제다. 사내 개인·팀 단위의 제한적인 대응으로는 준비와 대응 범위에 한계가 있어 조직적 계획을 기반으로 세부 실행 방안을 수립해야 할 필요가 있다. CSMS는 2020년 6월 채택 후 2022년 7월부터는 등록될 신형 자동차를 대상으로 적용, 2024년 4월에는 등록된 기존 자동차에 적용토록 단계를 세분화했다. 이는 새로운 규제에 대한 이해, 조정, 조율, 기반 구축 등을 확보하기 위해서다. 사이버 보안을 전 차종으로 확대하기 위한 토대를 효과적으로 구축하기 위해 사내에서는 차량 개발부터 판매 후 운용까지 전반적 관리가 가능해야 하며, 이를 위한 체계적인 관리 조직과 프로세스 규제까지 포함돼야 한다. CSMS는 다양한 사이버 보안 프로세스를 제시하고 있다. 이러한 프로세스에 맞춰 인증 평가가 정상적으로 완료되면 제조업체는 CSMS 준수 인증서를 받을 수 있다. 앞으로 UNECE 회원국에 등록·판매되는 모든 차량은 CSMS 인증과 증명서 취득 없이 차량을 판매할 수 없다. CSMS 대응 프로세스에 이어 차량 형식 승인을 위한 보안 코딩 준수 방안을 키워드별로 소개한다. ISO/SAE 21434:UNECE WP.29는 CSMS 관련 세부 활동 수립 시 참고가 가능한 주요 국제표준으로 ISO/SAE 21434를 권장하고 있다. 안에는 형식 승인과 관련해 사이버 보안 기술, 위험평가 관련 정보·기술을 지칭하면서 ISO/SAE 21434가 언급된다. 이를 통해 ISO/SAE 21434를 기반으로 보안 코딩 대응 방안을 마련하고 적용하는 것이 가능하다. Vulnerabilities:ISO/SAE 21434 문서 내 보안 코딩 관련 지침 사항 가운데 10. PRODUCT DEVELOPMENT에 알려진 취약점과 약점을 식별하기 위한 방안이다. 업계 표준 또는 모범 사례가 되는 도구 활용을 제안하고 있으며, 대표적인 정적 분석 방안으로 MISRA C와 CERT C 준수를 제안하고 있다. Secure Coding CERT-C:소프트웨어의 안전성·신뢰성·보안을 개선하기 위한 코딩 가이드라인으로 일반적으로 사용되는 프로그래밍 언어별 룰에 대한 설명과 위험평가를 제공하며, 최신 룰과 권고는 보안 코딩 표준 웹 사이트에 게시된다. 또 룰 항목별 심각도, 침해 발생 가능성, 사후 처리 비용을 제공함으로써 사용자에게 보안 대응을 위한 명확한 우선순위와 레벨을 제공한다. 결론적으로 2020년 6월 자동차 사이버 보안에 관한 국제규격이 채택되면서 사이버 보안 관리를 위한 조직의 구성부터 다양한 보안 프로세스, 차량 형식 승인까지 대비해야 할 영역은 광범위해졌다. 차량 제조사와 더불어 협력사 역시 CSMS의 전반적 이해와 보안 코딩 룰에 대한 선정·적용이 기초적이고 또한 필수 요구사항이 됐다. 이러한 시장의 변화 속에서 보안 코딩을 적용하기 위해 여러 가지 코딩 룰을 검토할 필요가 있다. 또 지속적인 보안 코딩 룰 검토와 검출 방안 수립 활동 등을 이어서 업데이트될 보안 코딩 가이드에 선제적으로 대응해야 한다.

 

 

● 보안 뉴스

구분	헤드라인	설명
(AI) 인공지능 편향	인공지능이 채용하는 시대가 코앞인데, 안전장치는 마련되고 있나	>> 인공지능이 불량한 이력서를 걸러내 주기만 하더라도 채용 담당자의 짐이 상당히 가벼워진다. 하지만 실제 현장에서 그런 효과를 누리려면 우리가 인공지능을 신뢰할 수 있어야 한다. 신뢰는 기술적 발전으로만 생겨나는 것이 아니다. 그 기술이 활용되는 제도적 범위가 타당하고, 그 범위 안에서 기술 발전이 안전하게 이뤄지는 것을 보고 경험해야 생긴다. 인공지능이라는 신기술이 다시 한 번 구인과 구직 과정에 개입하려 하는 지금 시점에 과거에 바로잡지 못했던 것들을 바로잡을 수 있어야 한다. 그래야 구인과 구직을 위한 인공지능이 보다 안전한 테두리 안에서 발전할 수 있게 되고, 그 누구도 피실험체가 되지 않으니까. 또한 이것이 본이 되어 인공지능 이후에 등장할 또 다른 새 기술들도 안전하게 회사와 인재의 연을 맺어주게 될 테니까 말이다. 이를 통틀어 ‘채용 인공지능’이라고 하는데 사실 수준은 제품마다 천차만별이다. 회사가 구하는 인재상과 이력서에 기재된 보유 기술이나 이력을 간단히 매칭시켜 주는 것부터, 이전 고용 절차를 전부 학습해 스스로 이력서를 전부 검토해 면접자를 뽑아내는 고급 것까지 이미 시장에 갖가지 도구들이 존재한다. 문제는 현재의 수준이 어쨌든 채용 인공지능 전부가 ‘편견’으로부터 자유롭지 못하다는 것이다. 실제로 현재까지 나온 고급 채용 인공지능들이 여성을 남성보다 많이 걸러낸다는 사실이 밝혀지기도 했었다. 음성 기반 인공지능에서도 여성이나 소수 인종(그러므로 특이한 억양이 있는)의 말을 부정확하게 이해하는 사례가 발견된 적이 있다. 필자가 “아직 규제가 더 필요하다”고 앞서 말한 건 이 ‘편견’ 때문이다. 현재 우리에게는 인공지능을 기반으로 한 채용 도구들이 편견을 내포하고 있지 않다고 확신할 수 있게 해 주는 안전 장치나 표준 검사 도구 같은 것이 마련되어 있지 않다. 감사를 해서 편견의 가능성을 전부 제거하는 것이 반드시 필요하지만, 편견 가능성이 제거됐다고 해서 공평한 결과가 나온다고 보장할 수 없다. 둘은 다른 말이다. 공평한 결과를 내기 위한 노력의 일환으로 편견을 없애는 것이지, 편견을 없애는 게 곧바로 공평을 뜻하는 건 아니다. 게다가 편견이라는 것이 ‘인종’이나 ‘성별’과만 관련된 것도 아니다. 우리에게는 수많은 종류의 편견들이 있으며 이를 전부 찾아내 기술적으로 없앤다는 건 불가능할 지도 모른다. 인공지능에서 편견을 없앤다는 건, 인공지능이 학습을 하기 위해 소비하는 데이터에서 편견을 없앤다는 뜻이다. 현재 IT 업계는 여성이나 고령자, 유색 인종에 대한 편견을 데이터에서 없애기 위해 노력하고 있지만 특정 직업에 대한 편견 혹은 특정 장애에 대한 편견 등은 손도 대지 못하고 있다. 또한 최근의 연구 결과에 따르면 인공지능은 편견들을 그대로 답습하는 게 아니라 강화하고 증폭시킨다고도 한다. 이런 상태에서 아무런 안전 장치 없이 채용 인공지능을 그대로 사용한다는 건 너무나 위험한 생각이다. 관련 규제가 충분히 방대한 양으로 마련되어야 한다.

 

금일 주목할 기사는 자율주행관련 기사입니다.
자율주행이라는 기술은 이미 어느정도 기존 차들에 적용도 되어 있고, 곧 미래에 다가올 기술이라고 생각을 하고 있습니다. 그렇지만 가장 큰 문제 중 하나는 안전 문제로 그 문제가 제대로 해결되지 않은 이상은 아직은 조금 빠르게 진행되지 않을 것 같습니다. 항상 안전과 같이 생각해봐야 할 문제가 아닌가 생각이 듭니다.

다음 주목해야 할 기사는 인공지능 채용 관련 기사입니다.
인공지능의 채용 문제 기사의 문제는 근본적으로는 데이터에 대한 편향 문제라고 할 수 있습니다. 그리고 우리가 인공지능을 사용하기 위해서는 데이터에 대한 신뢰성이 확보되어야 하는게 사실입니다. 이런 측면에서 데이터 편향과 인공지능 신뢰성에 대해서 더 많은 고민이 필요하지 않을까 하는 생각입니다.