<a href="https://pomerium.co.kr/namyangju/" target=_blank" rel="noopener noreferrer" title="남양주이사짐센터" id="goodLink" class="seo-link">남양주이사짐센터</a>그렇다면 리스크를 평가하고 관리하는 절차는 어떻게 구축할 것인가? 4단계로 나눠 개념화할 수 있다. 첫째, AI의 유형과 용례를 파악(identifying)하는 단계, 둘째, 해당 유형과 용례에 대응하는 리스크를 식별하고 매핑(mapping)하는 단계, 셋째, 리스크를 측정(measuring)하는 단계, 넷째, 리스크를 경감(mitigating)하는 방안을 구체화하고 실제로 도입하는 단계다. 각각의 단계가 어떻게 작동할지 생각해 보자.

첫째 단계는 AI의 유형과 용례를 파악하는 단계다. AI와 관련된 프라이버시 리스크는 AI 모델의 유형, AI 시스템의 목적, 처리되는 데이터 유형을 포함한 다양한 요소에 따라 달리 나타난다. 리스크 관리가 실효성이 있으려면, 첫 단계로 어떤 유형의 AI가 도입될 것이고 해당 AI를 이용한 서비스의 목적이 어떠할지 체계화해 정리하는 것이 우선 필요하다.

<a href="https://pomerium.co.kr/namyangju/" target=_blank" rel="noopener noreferrer" title="남양주이삿짐센터" id="goodLink" class="seo-link">남양주이삿짐센터</a>AI 시스템을 기획하거나 개발하는 과정에서는, 예를 들어 인터넷상의 공개된 데이터를 이용할 것인지, 학습이 일단 이뤄진 모델에 대해 데이터의 추가 투입을 통한 미세조정(fine-tuning) 작업을 할 것인지, 도메인 적응적 학습(DAL)이 필요할지, 퓨삿(few-shot) 러닝과 같은 맥락 내 학습(ICL)을 적용할지, 검색증강생성(RAG) 방식이 적용될지 등의 여러 요소 및 관련된 세부 사항에 대한 고려가 필요하다. 개별 상황에서 실제로 필요한 데이터 내역이나 규모는 천차만별일 수 있는데, 이를 구체화하는 과정이 수반돼야 한다.

한편 <a href="https://pomerium.co.kr/namyangju/" target=_blank" rel="noopener noreferrer" title="남양주이사업체" id="goodLink" class="seo-link">남양주이사업체</a>개발 후에 서비스가 이뤄지는 과정에선, 생성형 AI 유형의 서비스인지 판별형 AI 유형의 서비스인지에 따라 고려 요소가 달라질 수 있다. 생성형 AI는 이용자로부터의 입력값과 문맥에 기초해 텍스트·이미지·비디오 등을 생성하는 역할을 주로 하는 AI 시스템이다. 판별형 AI의 유형은 좀 더 다양하다. 채용 추천 AI, 신용평가 AI, 금융 사기방지 AI와 같이 개인에 관한 평가나 분류를 수행하는 AI 시스템, 그리고 AI 기반의 맞춤형 콘텐츠나 광고를 제공하는 유형의 AI 추천 시스템, 그 이외에 의료 AI, 자율주행 AI와 같이 사실이나 상황 인지가 주요 기능인 AI 시스템 등 다양한 유형의 시스템이 있다. 어떤 서비스인지, 해당 서비스를 위해 요구되는 데이터의 유형과 규모는 어떠한지, 해당 데이터는 누가 관리하고 있고 누구에게 귀속되는 것인지에 대해 파악하고 정리할 필요가 있다.