글로벌 인공지능(AI) 업계를 이끄는 기업들이 잇따라 첨단 AI 개발 속도를 조절해야 한다는 입장을 내놓으면서 국내 산업계의 대응 전략에도 변화가 불가피해졌다. AI의 안전성과 신뢰성이 경쟁의 주요 기준으로 부상하면 후발주자인 한국 기업이 검증 기술을 앞세워 도약할 수 있지만, 빅테크 중심으로 마련된 안전 규범이 국제 표준으로 굳어질 경우 새로운 진입장벽이 될 수 있다는 우려도 나온다.
국내 업계는 모든 AI에 동일한 감속 기준을 적용하기보다 활용 분야와 잠재 위험도에 따라 규제와 검증 수준을 달리해야 한다고 보고 있다. 정부 차원에서는 국제 안전 규범 논의에 적극적으로 참여하는 동시에 제조업과 산업 현장 등 국내 강점을 활용한 실용 AI 육성을 병행해야 한다는 제언이 제기된다.
◇ 빅테크 수장들, 최첨단 AI 개발 속도 조절 주장
다리오 아모데이 앤트로픽 최고경영자는 최근 개인 블로그를 통해 AI가 인간의 직접적인 개입 없이 스스로 발전하는 ‘재귀적 자기개선’ 단계에 가까워지고 있다며 최첨단 AI 모델의 개발 속도를 늦출 필요가 있다고 주장했다.
그는 AI 기업 내부에 독립적인 안전 평가 인력을 상주시켜 개발 과정 전반을 점검하고, 민주주의 국가들이 공동 안전 기준을 마련한 뒤 장기적으로 국제 협력 체계를 구축하는 방안을 제시했다. 샘 올트먼 오픈AI 최고경영자와 일론 머스크 xAI 최고경영자, 데미스 허사비스 구글 딥마인드 공동창업자 등도 비슷한 문제의식에 공감하면서 개발 속도 조절론은 미국 빅테크를 중심으로 확산되는 모습이다.
◇ 국내 기업에는 추격의 발판인가, 규제 장벽인가
한국 AI 업계가 주목하는 부분은 개발 속도를 늦추는 논의가 어느 수준까지 적용될지 여부다. 현재 제기되는 주장은 AI 개발 자체를 중단하자는 의미보다는 안전성 검증 체계를 갖추자는 데 초점이 맞춰져 있다. 따라서 향후 국제 기준이 어떤 방식으로 설계되느냐에 따라 국내 기업이 받게 될 영향도 달라질 전망이다.
민주주의 국가 간 공동 기준이 실제로 마련되고 빅테크가 주도한 안전 요건이 세계적인 규범으로 자리 잡으면 국내 기업에도 상당한 부담이 될 수 있다. 한 업계 관계자는 자본과 인력, 컴퓨팅 자원에서 글로벌 기업에 뒤처진 상황에서 상시 평가와 같은 의무가 추가되면 사실상 진입장벽이 제도화될 수 있다고 우려했다.
반면 개발 속도를 일률적으로 제한하기보다는 AI가 사용되는 환경과 위험 수준을 기준으로 차등 관리해야 한다는 의견도 있다. 모든 모델에 같은 기준을 적용하면 산업 발전을 위축시킬 수 있는 만큼 고위험 분야에는 엄격한 검증을 적용하고 상대적으로 위험이 낮은 분야에는 유연성을 부여해야 한다는 취지다.
안전성과 신뢰성이 새로운 경쟁 기준으로 정착할 경우 국내 기업에 오히려 기회가 될 수 있다는 분석도 제기된다. 빠르게 모델을 내놓는 능력보다 실제 서비스에 적용할 수 있을 만큼 안전하게 개발하고 검증하는 역량이 중요해지면, 독립 검증 기술과 평가 데이터가 경쟁력으로 이어질 수 있기 때문이다.
최정주 코난테크놀로지 AI연구소장은 프론티어 모델 활용 조건으로 독립기관의 검증이 요구될 경우 국내 기업에는 단순한 규제보다 검증 역량을 겨루는 환경이 조성될 수 있다고 평가했다. 검증 체계를 스스로 축적하지 못하면 결국 해외 검증 결과를 구매해야 하는 구조가 될 수 있다는 설명이다.
한국이 빅테크와 동일한 방식으로 범용 인공일반지능(AGI) 개발 경쟁을 벌이기보다 국내 산업의 강점을 살린 분야에 집중해야 한다는 지적도 나왔다. 최병호 고려대 AI연구소 교수는 글로벌 빅테크 모델과 국내 모델 사이에는 파라미터 규모 등에서 큰 격차가 있다며, AGI 성능 추격은 장기 과제로 두고 단기적으로는 제조 분야의 인공지능 전환(AX)에 특화된 모델 등 실용 영역에서 경쟁력을 확보해야 한다고 말했다.
◇ 국제 규범 논의 참여와 산업 성장, 함께 추진해야
AI 개발 속도 조절이 국제 안전 규범 논의로 확대되면 정부의 외교·산업 전략도 중요해질 것으로 보인다. 미국은 반도체 수출 통제 과정에서 안보 동맹과 첨단기술 관리 체계를 연계해 왔으며, AI 안전 분야에서도 동맹국을 중심으로 공동 대응을 요구할 가능성이 있다.
다만 중국이 제외된 상태의 속도 조절은 서방 국가들만 개발을 제한하는 결과로 이어질 수 있다는 지적도 있다. 한국 기업이 중국과의 기술·시장 연결을 완전히 끊기 어려운 현실을 고려하면 국제 공조의 참여 범위와 규범 적용 수준을 신중하게 조율해야 한다는 분석이다.
김진형 한국과학기술원 명예교수는 AI가 인간에게 피해를 줄 가능성에 대한 우려는 타당하지만 미국과 중국이 경쟁을 주도하는 상황에서 개발을 전면 중단하기는 어렵다고 진단했다. 기술 개발과 활용은 이어가되 예상되는 부작용을 줄일 안전장치를 함께 마련해야 한다는 것이다.
또한 한국이 빅테크를 따라 개발을 모두 멈추기도 어렵고 독자적으로 추진하다 국제사회의 비판을 받을 수도 있는 만큼, 범용 AGI 자체에만 매달리기보다는 기업 현장의 문제와 국가적 과제를 해결하는 실용 AI에 집중할 필요가 있다고 조언했다.
국내 업계는 국제 안전 표준을 만드는 과정에는 적극적으로 참여하되 국내 AI 산업을 키우는 정책 기조는 유지해야 한다는 입장이다. 업계 관계자는 규범이 형성되는 초기부터 정해진 규칙을 따르는 데 그치지 말고 설계 과정에 직접 참여해야 한다며, 기업 규모와 관계없이 개발자와 연구자들의 의견이 국제 기준에 반영돼야 한다고 강조했다.
댓글
0