정의

연합 최적화기(Federated Optimizer)는 분산된 장치 또는 서버(클라이언트) 네트워크에 걸쳐 분산된 로컬 데이터 샘플을 보유한 상태에서 머신러닝 모델을 훈련하도록 설계된 알고리즘 프레임워크입니다. 모든 원시 데이터를 중앙 위치에 집계하는 대신, 최적화기는 전역 모델을 클라이언트에게 전송하여 로컬에서 훈련할 수 있도록 조정하고, 모델 업데이트(기울기 또는 가중치)만 중앙 서버로 다시 집계합니다.

중요성

연합 최적화기를 사용하는 주된 동인은 대규모 AI의 요구 사항과 엄격한 데이터 개인 정보 보호 규정(GDPR 또는 HIPAA와 같은) 사이의 조화를 이루어야 할 필요성 때문입니다. 스마트폰이나 지역 병원 서버와 같은 엣지 장치에 민감한 데이터를 현지화함으로써, 조직은 개인 정보 보호 의무를 위반하거나 막대한 데이터 전송 비용을 지불하지 않으면서 방대하고 분산된 데이터 세트를 모델 개선에 활용할 수 있습니다.

작동 방식

이 과정은 일반적으로 다음 단계를 따릅니다.

1. 초기화: 중앙 서버가 전역 모델을 초기화하고 이를 선택된 참여 클라이언트 하위 집합에 전송합니다.
2. 로컬 훈련: 각 클라이언트는 자체 독점 데이터 세트를 사용하여 모델을 여러 에포크 동안 로컬에서 훈련합니다. 이로 인해 로컬 모델 업데이트 세트가 생성됩니다.
3. 업데이트 집계: 클라이언트는 계산된 업데이트(원시 데이터가 아님)만 중앙 서버로 다시 전송합니다. 그런 다음 서버는 연합 평균화(FedAvg)와 같은 집계 알고리즘을 사용하여 이러한 업데이트를 단일화되고 개선된 전역 모델로 결합합니다.
4. 반복: 개선된 전역 모델은 클라이언트에게 재분배되고, 수렴하거나 미리 정의된 중지 기준이 충족될 때까지 이 주기가 반복됩니다.

일반적인 사용 사례

연합 최적화는 데이터가 본질적으로 사일로화되어 있거나 매우 민감한 시나리오에서 매우 유용합니다.

• 모바일 키보드 예측: 개인 메시지 내용을 클라우드 서버에 업로드하지 않고 사용자 키 입력을 기반으로 다음 단어 예측 모델을 훈련합니다.
• 의료 진단: 환자 기록을 보유한 여러 병원에서 진단 AI 모델을 개발하여 환자 기밀성을 보장합니다.
• IoT 센서 네트워크: 지리적으로 분산된 산업 센서에서 수집된 데이터를 사용하여 예측 유지보수 모델을 개선합니다.

주요 이점

• 향상된 데이터 개인 정보 보호: 원시 데이터는 로컬 환경을 벗어나지 않으므로 개인 정보 보호 위험이 크게 감소합니다.
• 지연 시간 및 대역폭 감소: 계산이 데이터 소스(엣지)에 더 가깝게 이루어지므로 방대한 데이터 세트를 중앙 클라우드로 스트리밍할 필요성이 최소화됩니다.
• 다양한 데이터 접근성: 물류적 또는 규제적 제약으로 인해 접근할 수 없었을 분산되고 이질적인 데이터 세트로부터 모델이 학습할 수 있도록 합니다.

과제

• 비독립적이고 동일하게 분포되지 않은(Non-IID) 데이터: 서로 다른 클라이언트 간의 데이터는 종종 비독립적이고 동일하게 분포되지 않습니다(Non-IID). 이러한 이질성은 모델 드리프트를 유발하고 수렴 속도를 늦출 수 있습니다.
• 시스템 이질성: 클라이언트는 컴퓨팅 성능, 네트워크 연결성, 배터리 수명 면에서 크게 다르므로 강력한 스케줄링 및 장애 허용 기능이 필요합니다.
• 통신 오버헤드: 원시 데이터 전송은 피하지만, 모델 업데이트의 빈번한 교환은 여전히 상당한 통신 비용을 발생시킬 수 있습니다.

관련 개념

연합 학습(Federated Learning)은 포괄적인 패러다임이며, 연합 최적화기(Federated Optimizer)는 학습된 매개변수를 집계하는 데 사용되는 특정 메커니즘 또는 알고리즘을 지칭합니다. 차분 프라이버시(Differential Privacy)는 데이터 재구성 공격에 대한 수학적 보장을 추가하기 위해 종종 연합 학습 위에 계층적으로 적용됩니다.