[로리더] 지능정보산업협회장인 장홍성 SK텔레콤 부사장은 27일 제38회 대한변호사협회 2023년도 인권보고대회에서 “AI는 규제가 아닌 진흥에 무게 중심을 둬야 한다고 믿었지만, 최근에는 헷갈리는 중”이라며 “AI는 인간보다 훨씬 똑똑해질 것이지만, 어떻게 돌아가는지도 잘 모르면서도 오픈소스이기 때문에 누구든지 쉽게 접근할 수 있다”고 말했다.
대한변호사협회(협회장 김영훈)는 이날 오후 2시 제38회 인권보호대회를 열고 제1주제 인공지능(AI)과 인권, 제2주제 SNS와 인권을 다뤘다.
장홍성 지능정보산업협회장은 “과거에는 규칙 기반의 AI였는데, 지금은 데이터 기반의 AI다”라며 “예를 들어, 고양이를 인식하는 프로그램을 만든다면, 과거에는 ‘고양이의 눈은 이렇게 생겼고, 다리가 4개다’ 이런 식으로 규칙을 적어줬지만, 요즘에는 고양이 이미지를 10만개 정도 입력하고, 이게 고양이라고 정의한다”고 설명했다.
장홍성 회장은 “컴퓨터 입장에서 고양이 사진은 픽셀에 있는 바이너리(2진수) 숫자일 뿐인데, 어떻게든 그 패턴을 찾아내 어떻게 생긴 것이 고양이인지 인공지능이 인식한다”면서 “그러나 이것은 데이터 기반으로 작동하기 때문에 어떤 것에 의해서 무언가를 고양이로 인식하는지, 그 내부를 알 수 없는 블랙박스”라고 정의했다.
장홍성 회장은 “여기서 문제가 되는 것은 설명할 수 없다는 것”이라며 “예를 들어, 과거에는 은행에서 대출 신청을 했을 때, 그동안의 부채가 얼마인지 등을 확인해서 추가적인 대출이 안 되는 이유까지 답해줬는데, 요즘 AI를 쓴다면 왜 대출이 안 되는지 설명할 수 없다”고 지적했다.
장홍성 지능정보산업협회장은 “규칙 기반의 AI에서는 가드레일을 설정해서 어떤 것은 안 된다고 규칙을 정해줄 수 있는데, 데이터 기반 AI는 AI가 어떻게 판단하는지 모르기 때문에 위험성을 회피하는 것이 쉽지 않다”고 경고했다.
장홍성 회장은 “최근 인공지능의 특징으로는 양과 질의 변환이 있는데, 이는 기술적인 것이 아니라 학습하는 양을 늘린 것”이라며 “작년에 화제가 됐던 ChatGPT는 온라인의 문서를 조 단위, 그러니까 지구상의 거의 모든 문서를 다 본 셈”이라고 설명했다.
장홍성 회장은 “과거에는 그렇게 학습할 컴퓨팅 파워도 없고, 데이터도 없었는데 이제는 가능해졌다”며 “이것을 창발성이라고 할 수도 있는 건데, 부분의 합이 전체보다 훨씬 커져 어떻게 작동하고 있는지는 잘 모르는 형태라고 볼 수 있다”고 말했다.
장홍성 지능정보산업협회장은 “인공지능이 인간지능을 초월할 것이라는 말을 많이 한다”며 “이는 AI가 어떤 일을 하는데, 어떤 식으로 동작하는지 인간이 이해할 수 없는 기술이 나온다는 의미”라고 해설했다.
장홍성 회장은 “최근에는 AI가 접목되지 않은 데가 없다”며 “이 자리에 오면서 내비게이션을 썼으면 내비게이션 알고리즘도 AI이며, 마켓컬리나 쿠팡에서 추천한 상품, 넷플릭스나 네이버 등에 검색하는 것도 다 AI가 적용돼 있다”고 짚었다.
장홍성 회장은 “특히 최근 AI는 오픈소스 소프트웨어로, 다른 사람들이 자유롭게 쓸 수 있게 공개돼있다”며 “구글과 메타(페이스북)이 그 오픈소스 소프트웨어의 혜택을 가장 많이 본 회사로, 누구든지 AI 기술을 습득해 활용할 수 있어, (기업뿐만 아니라) 나쁜 마음을 먹은 사람도 쓸 수 있다”고 지적했다.
장홍성 지능정보산업협회장은 “앞으로 몇 년 후면 AI가 만드는 콘텐츠가 인간이 만드는 콘텐츠보다 더 많아질 것이라고 한다”며 “오늘 아침에도 협회에서 세미나를 하면서 발표한 내용이 스크립트와 영상 모두 AI 기술로 만든 영화였다”고 소개했다.
장홍성 회장은 “또, 소비 패턴의 변화와 검색의 종말도 예측된다”며 “지금까지는 네이버나 구글에서 검색하면 그 결과가 나오고, 문서를 읽는 식인데, 앞으로는 검색이 아니라 AI에게 질문하고 찾는 것은 AI가 하는, AI가 문서의 소비자가 되는 것”이라고 말했다.
장홍성 회장은 “AI가 전부 학습하고, 그 최종 결과물만 나에게 주기 때문에 기존의 비즈니스 모델이 다 바뀐다고 봐야 한다”고 덧붙였다.
장홍성 지능정보산업협회장은 “최근 정치가 극단화되는 분위기인데. 그 이유 중 하나는 유튜브 때문이라고 본다”며 “예를 들어, 나는 좌파 혹은 우파라고 한다면, 본인이 원하는 것만 계속 추천을 해준다”고 설명했다.
장홍성 회장은 “추천 알고리즘의 목적 함수는 더 많은 클릭을 하게끔 하는 것”이라며 “계속 클릭을 하게끔 어떤 문서를 보면 그 문서와 비슷한 것을 계속 추천해주면서 확증편향에 빠지고, 더 극단화된다”고 밝혔다.
장홍성 회장은 “우리나라뿐만 아니라 전 세계적으로 정치가 양극단화되는 것의 해결책은 유튜브가 알고리즘의 목적 함수를 클릭이 아닌 다른 형태로 만들어야 하지 않겠냐는 생각도 해봤다”고 제시했다.
장홍성 지능정보산업협회장은 “인공지능이 불러올 미래가 디스토피아가 될지, 유토피아가 될지는 모른다”면서도 “산업계에 있는 사람으로서는 그동안의 모든 기술의 발전이 인류의 삶에 도움이 되는 형태로 결정됐고, 그렇게 믿어왔다”고 전했다.
장홍성 회장은 “규제보다는 진흥에 무게 중심을 두고 있어야 한다고 얘기는 하지만, 요즘 똑똑한 분들이 인공지능은 다르다, 좀 더 심각하게 고민해야 한다는 얘기를 많이 한다”며 “대표적으로 ChatGPT를 만든 샘 알트먼 같은 사람은 AI를 대상으로 한 국제원자력기구(IAEA)와 같은 규제기구를 국제적으로 만들어야 한다고 밝혔다”고 예시를 들었다.
장홍성 지능정보산업협회장은 “AI는 인간보다 훨씬 똑똑해질 것이지만, 어떻게 돌아가는지는 잘 모르겠는데, 오픈소스이기 때문에 누구든지 쉽게 접근할 수 있다”며 “핵무기도 무서운 것이지만 그것은 (AI와 달리) 쉽게 접근할 수 없다”고 경고했다.
장홍성 회장은 “SK텔레콤뿐만 아니라 모든 회사가 사활을 걸고 AI를 향해 달리고 있는데, 누군가가 ‘우리는 지금 멈춰야 할 때’라고 해도 아무도 멈추지 않을 것”이라며 “아직 AI가 미흡한 것은 맞지만, 기술의 발전이라는 것은 굉장히 빠를 것”이라고 예측했다.
한편 이번 인권보고대회는 우인식 대한변협 제1인권이사가 사회를 봤고, 대한변협 인권위원회 이광수 변호사가 진행을 맡았다.
제1주제 ‘인공지능(AI)와 인권’은 대한변협 난민이주외국인특별위원회 양희철 변호사가 주제발표를 맡고, 정보통신정책연구원(KISDI) 문정욱 지능정보사회정책연구실장과 지능정보산업협회 장홍성 협회장(SK텔레콤 부사장)이 토론자로 참여했다.
제2주제 ‘SNS와 인권’은 대한변협 인권위원회 신은영 변호사가 주제발표를 맡고, 경북대학교 법학전문대학원 이권일 교수, 이승열 변호사(법무법인 지선)가 토론자로 참여했다.
[로리더 최창영 기자 ccy@lawleader.co.kr]