서울 종로구 GS건설 본사에서 지난 21일 GS건설 허윤홍 대표(왼쪽 4번째) 및 관계자와 오픈AI 담당자들이 기념사진을 촬영하고 있다. (사진=GS건설)

"AI는 더 이상 선택의 문제가 아니라 변화하는 환경에 적응하고 주도하기 위한 생존의 문제." - 허윤홍 GS건설 대표

GS건설이 전날(28일) 오픈AI(OpenAI)와 협업해 '챗GPT 엔터프라이즈'를 건설 업계 최초로 전격 도입하겠다고 선포했다. 설계와 공정, 안전 진단 등 핵심 영역까지 적용 범위를 넓힌다는 것이다.

하지만 잘못된 답변을 내놓는 AI 환각(할루시네이션)과 데이터 보안 이슈가 문제다. 이러한 것들로 인해 공사 현장의 안전과 품질에 영향을 미칠 수 있다는 우려가 제기될 수 있어, 과제로 남았다.

■ GS건설, 오픈AI 기업용 챗GPT 도입…설계·도면 안전까지 적용

GS건설은 오픈AI의 기업용 챗GPT 엔터프라이즈를 전격 도입한다는 방침이다. 이를 통해 기술·계약 검토, 설계 도면 분석, 견적·예산 검토 같은 고난도 과제부터 안전·장비 이상 징후의 조기 탐지 등 현장 밀착형 업무로 활용을 확대한다는 구상이다.

GS그룹 차원에서도 허태수 회장을 중심으로 AI 등 신기술 도입에 꾸준한 관심을 보여온 만큼, 이번 AI 솔루션 적용도 그룹 차원의 디지털 전환 기조와 맞닿아 있다는 평가다.

GS그룹 임원 모임에서 허태수 GS그룹 회장이 임원들에게 그룹의 신사업과 디지털 혁신 가속화를 강조하고 있다. (사진=GS그룹)

GS건설은 9월 초엔 오픈AI와 'GPT 챔피언 프로그램'을 출범하고 현업 문제 해결형 AI 인재를 육성할 계획이다. 특히 기업용 모델을 택한 이유는 보안 때문이다. 챗GPT 엔터프라이즈는 기업 환경에 맞춘 고도화된 보안 기능과 관리자 권한을 제공해 사내 문서·데이터를 외부 유출 없이 활용할 수 있도록 설계됐다.

GS건설 관계자는 "정보 보안이 가장 우선 고려된 요소"라며 "사내 민감한 데이터가 외부로 유출되지 않도록 보안 기능이 강화된 GPT 엔터프라이즈 솔루션을 선택한 것"이라고 설명했다. 회사는 내부 검토와 승인 로그 기반의 거버넌스를 병행해 운영 리스크를 낮출 예정이다.

■ AI 환각 현상에 대한 문제…"오류 가능성 염두에 두고 있어"

동시에 신뢰성 한계는 뚜렷하다. 글로벌 기업들의 AI 사용 정책이 전면 허용과 제한적 허용으로 엇갈리는 배경에는 보안·윤리 이슈와 환각 리스크가 있다.

다만 회사는 적용 단계와 범위를 엄격히 제한하고 있다. GS건설 관계자는 "챗GPT 등 AI 기술은 오류 가능성을 항상 염두에 두고 있다"며 "현재는 반복적이거나 단순한 문서 검토 업무 등에 한해 제한적으로 활용할 것으로 보인다"고 말했다. 그러면서 "내부 검토와 검증 과정을 거친 후에만 결과물을 업무에 반영할 것"이라고 덧붙였다.

다양한 분야에서 챗GPT 등 AI를 활용하지만 그 위험성에 대해서 경고하고 있다. 의료 영역의 사례를 보면, 미국 코헨아동의료센터 연구진은 100여의 진단 사례를 가지고 GPT-3.5에 입력한 결과 정확 진단이 17건에 그쳤다고 보고한 바 있다.

최근에는 생활 영역에서도 한 식품 관련 전문가가 챗GPT의 다이어트 조언을 따르다 브롬화합물을 섭취해 정신병을 얻는 브롬 중독을 겪은 사건이 알려지기도 했다.

다리오 아모데이 앤스로픽(Anthropic) CEO도 이에 대해 경고했다. 그는 "AI는 사람이 예상하지 못한 방식으로 환각을 일으키며 이를 정확히 측정하지 못하면 고칠 수 없다"고 했다. 이어 "AGI에 가까워질수록 모델 내부 행동을 들여다볼 수 있는 MRI 같은 해석 도구가 필요하다"고 강조한다.

GS건설 본사에서 지난 21일 오픈AI(OpenAI) 담당자(왼쪽)와 GS건설 관계자들이 챗GPT 엔터프라이즈 활용 관련 질의응답을 하고 있다. (사진=GS건설)

■ 건설기술 논문도 활용 사례 있지만, 우려 지적…삼성SDS "AI 신뢰도 확보 중요"

건설업계 적용 사례도 있지만 보조적인 수단으로 활용해야 한다는 원칙을 뒷받침하고 있다.

한국산학기술학회논문지에 실린 '국내 건설분야 AI 활성화를 위한 실무자 인식에 관한 연구(2023년, 신재영·원지선 저자)'에서는 공사 입찰서와 시방서 등 비정형 문서에 대한 AI 분석이 시도되는 한편, 법적 책임 소재와 결과물 신뢰성 부족이 확산의 걸림돌이라고 지적한다.

이 논문에 따르면, 기획 및 설계 단계에서는 GAN 기반 건축 스케치 시각화, BIM 기반 설계 품질 검토, 초기 공간 배치 최적화 등 다양한 기술이 적용되고 있지만, 여전히 실험적 활용 중심으로 표준화와 검증 절차가 과제로 남아 있다고 지적한다.

또한 시공 단계에서는 CCTV 영상과 웨어러블로 근로자 안전 모니터링이나 사고 예측이 두드러지지만, 공정관리와 자재관리 등은 적용 초기로 성능 고도화와 인프라 구축이 요구된다고 했다.

AI 에이전트를 판매 중인 삼성SDS도 AI 환각현상 대응에 심혈을 기울이고 있다. 삼성SDS는 AI 환각 현상에 대한 대응으로 "RAG(Retrieval Augmented Generation) 기술과 파인튜닝을 활용해 신뢰도 높은 내부 데이터를 기반으로 답변을 생성하도록 설계하고 있다"고 했다. 또한 "AI가 불확실한 질문에는 '모르겠습니다'라고 답변하고 출처를 명시하도록 프롬프트 엔지니어링을 강화하고, 스스로 오류를 감지하고 수정하는 에이전트 기능을 적용해 실제 업무 환경에서의 신뢰성과 안정성을 높이고 있다"고 설명했다.

GS건설도 실제 업무 적용에서는 인간 검증을 전제로 한 보조 수단 정도로 활용하는 방법과 추론 근거를 명확히할 수 있는 것 등이 과제가 될 것으로 보인다. GS건설 관계자는 "AI 도입은 아직 실험적 단계로 실제 업무에 본격적으로 적용하기까지는 시간이 더 필요하다"며 "오픈AI와의 워크숍은 활용 범위와 자동화 가능성을 탐색하기 위한 논의였고 구체적 적용 시기와 범위는 내부 검토 중"이라고 밝혔다.

0 0