정의

연합 엔진(Federated Engine)은 원시 데이터 자체를 중앙 집중화할 필요 없이 분산된 데이터 소스 네트워크 전반에 걸쳐 모델을 훈련하거나 실행하도록 설계된 컴퓨팅 프레임워크입니다. 데이터를 중앙 서버로 이동시키는 대신, 엔진이 데이터로 계산을 가져가서 모델이 로컬 데이터셋으로부터 학습할 수 있도록 하며, 이때 집계된 모델 업데이트 또는 매개변수만 공유합니다.

중요성

데이터 주권 및 개인 정보 보호 규정(GDPR 및 CCPA 등)은 민감한 데이터의 이동을 점점 더 제한하고 있습니다. 연합 엔진은 조직 경계를 넘나들거나 사용자 기기에서 협업적인 모델 훈련을 가능하게 함으로써 이러한 문제에 직접적으로 대응합니다. 이를 통해 조직은 규정 준수를 저해하거나 독점 정보를 노출하지 않으면서 방대하고 사일로화된 데이터셋을 AI 개발에 활용할 수 있습니다.

작동 방식

이 과정은 일반적으로 몇 가지 주요 단계를 포함합니다.

1. 초기화: 중앙 오케스트레이터에서 참여하는 로컬 노드(예: 개별 서버 또는 사용자 기기)로 전역 모델이 전송됩니다.
2. 로컬 훈련: 각 로컬 노드는 자체의 비공개 로컬 데이터를 사용하여 모델을 훈련합니다. 가중치 업데이트 또는 기울기만 계산됩니다.
3. 집계: 이러한 로컬 업데이트는 중앙 서버로 다시 전송됩니다. 그런 다음 엔진은 특정 집계 알고리즘(예: 연합 평균화, FedAvg)을 사용하여 이러한 업데이트를 단일화되고 개선된 전역 모델로 결합합니다.
4. 반복: 새로운 전역 모델이 재분배되고, 모델이 원하는 수렴 수준에 도달할 때까지 이 주기가 반복됩니다.

일반적인 사용 사례

연합 엔진은 여러 고위험 환경에서 매우 중요합니다.

• 헬스케어: 환자 기록을 공유하지 않고 여러 병원 시스템 전반에 걸쳐 진단 AI 모델을 훈련합니다.
• 모바일 키보드: 개별 스마트폰에 로컬로 저장된 사용자 타이핑 데이터를 사용하여 예측 텍스트 모델을 개선합니다.
• 금융: 거래 데이터를 안전하게 유지하면서 여러 은행 지점 전반에 걸쳐 사기 탐지 모델을 개발합니다.

주요 이점

• 향상된 개인 정보 보호: 원시 데이터는 안전한 로컬 환경을 벗어나지 않습니다.
• 지연 시간 감소: 계산이 데이터 소스(엣지 컴퓨팅)에 더 가깝게 발생합니다.
• 확장성: 단일 중앙 서버에 과부하를 주지 않으면서 더 많은 분산 노드를 추가하여 시스템을 수평적으로 확장할 수 있습니다.

과제

연합 시스템을 구현할 때는 노드 간 통신 오버헤드 관리, 이질적인 데이터셋(비-IID 데이터) 전반에 걸친 모델 수렴 보장, 악의적인 노드가 손상된 업데이트를 제출하는 포이즈닝 공격에 대한 방어 등 여러 난관이 있습니다.

관련 개념

이 기술은 엣지 컴퓨팅(Edge Computing), 분산 컴퓨팅(Distributed Computing), 차분 프라이버시(Differential Privacy)와 밀접하게 관련되어 있으며, 이들은 종종 연합 학습과 함께 작동하여 더 강력한 개인 정보 보호 보장을 제공합니다.