[책] Building Machine Learning Pipelines 살아 움직이는 머신러닝 파이프라인 설계

[SAgiKPJH]

머리말

• 컴퓨팅 성능에 기반한 인공지능(AI leveraging computation)
  • 컴퓨터 성능에 기반한 인공지능
  • 범용 인공지능
• 인공지능 회사의 핵심 역량은 탐색과 학습
• 인공지능 프로젝트의 미래
  • 인공지능 비즈니스, 프로젝트 메니저가 문제 정의, 프로젝트 등록
  • AutoML 수행하는 인공지능 에이전트가 문제 확인
  • 리소스 사용량 컨펌
  • 에이전트 스스로 모델 디자인
  • 피처 엔지니어링 사용하여 사용 기능 정의
  • 하이퍼파라미터 최적화
  • 모델 평가
  • 모델 배포
  • 라이브 모델 성능 지속 모니터링
• 문제를 정의해주고 데이터와 목푯값을 정해주면 된다.
• 모델 아키텍쳐와 개념에 대한 표준화가 부족.
• 이 책을 통해 자동화 모델을 만드는 표준화된 머신러닝 시스템 구축 방법 보여준다.

머신러닝 파이프라인

• 데이터 과학자와 머신러닝 엔지니어가 개발 속도를 높이고, 재사용하고, 관리 및 배포하는 데 활용할 개념과 도구에 좋은 자료가 부족
• 필요한 것은 머신러닝 파이프라인의 표준화
• 문제점
  • 머신러닝 프로젝트는 시간이 지나면서 성능이 저하
  • 기본 데이터가 변경되었을 때 오류를 수정하는데 많은 시간 할애
  • 모델이 널리 사용되지 않는 일회성 작업으로 변한다

파이프라인의 단계

• 데이터 효율적으로 버전화, 세로운 모델 학습 실행 시작
• 새로운 데이터 유효성을 확인, 데이터 드래프트 확인
• 모델 학습 및 검증, 데이터 효율적 전처리
• 모델 효과적 학습
• 모델 학습 추적
• 학습, 튜닝모델 분석 검증
• 검증 모델 배포
• 스케일링
• 피드백 루프 -> 새로운 학습 데이터 수집 및 성과 지표 모델링

추천 책

• 딥러닝의 정석(한빛미디어 2018)
• 핸즈온 머신러닝(한빛 미디어 2020)

대상 독자

• 데이터 과학자와 머신러닝 엔지니어
• 데이터 과학 프로젝트 관리자, 소프트웨어 개발자, 데브옵스 엔지니어
• 툴체인 소개

Tensorflow, TFX 사용 이유

• TFX : Tensorflow Extended
• 광범위 사용 가능 및 지원 라이브러리 포함
• 커뮤니티 활성화
• 사용 사례 광범휘
• 오픈소스, 사용에 제한 없음

장 소개

1. 머신러닝 파이프라인
2. TFX
3. 수집
4. 검증
5. 전처리
6. 학습
7. 분석, 검증
8. 배포
9. 고급 모델 배포
10. 고급 TFX
11. 파이프라인 1부
12. 파이프라인 2부
13. 피드백 루프
14. 데이터 개인 정보 보호
15. 미래

[SAgiKPJH]

1 머신러닝 파이프라인

• 소개 및 구축
• 이점
  • 모델 생애주기 단계 자동화
  • 유지보수 불필요 -> 새 모델에 집중
  • 버그(전처리문제) 예방
  • 버전 관리 문서화 (변경사항, 선택, 배포 추적)
  • 표준화 (업무 적응, 동일한 개발 환경, 효율정 보장)
• 실제 사례
  • 새로운 모델 개발 시간 확보
  • 간단한 기존 모델 프로세스 업데이트
  • 모델 재현에 소요되는 시간 단축
• 자동화된 머신러닝의 수행
  • 데이터 과학 프로젝트 비용 절감
  • 잠재적인 편향 감지에 도움
  • 모델 문서 추적
  • 데이터 과학자의 개발시간 확보, 업무의 만족도 향상

파이프라인 고려

• 고려 시기
  • 다양한 이점이 있지만, 모든 데이터 과학 프로젝트에 필요하지는 않는다.
• 파이프라인이 유용하지 않는 시점
  • 단순 새로운 모델을 실험
  • 새로운 모델 아키텍터 조사
  • 최신 논문 재현
• 고려 시점
  • 모델에 사용자가 있다면, 지속적인 업데이트와 세부조정이 필요

파이프라인의 단계

• 핵심
  • 데이터가 많을 수록 모델 개선, 지속적인 데이터 유입 때문에 자동화가 핵심

• 데이터 수집/ 버전관리
  • 이후 컴포넌트가 소화할 수 있게 데이터 처리
  • 데이터 버전관리하여 데이터 스냅샷을 파이프라인 끝 학습된 모델과 연결
• 데이터 검증
  • 학습 전 새 데이터 검증
  • 데이터 이상징후 감지되면 경고 (예:편향)
• 데이터 전처리
  • 학습에 사용하기 위해 데이터 전처리 (수정시 전체 단계 초기화)
• 모델 학습 (핵심)
  • 학습에 사용하는 컴퓨터 자원은 한정되어 있으므로, 모델 학습 세션의 효율적인 분배가 중요
• 모델 튜닝
  • 머신러닝 파이프라인 아키텍처는 확장 가능하기 때문에 다수 모델을 병렬로 순차학습
  • 최종 모델에 적합한 모델 하이퍼파라미터를 선택
• 모델 분석 (수동검토)
  • 최종 버전 선택 후 모델의 성능을 더 심층적으로 분석
  • 모델의 예측이 공정한지 확인
  • 최종 선택하는 단계
• 모델 버전 관리
  • 모든 입력(하이퍼파라미터, 데이터셋, 아키택처)을 새 모델버전으로 문서화하고 릴리즈 단계의 일부, 추적
• 모델 배포
  • 모델 서버
• 모델 피드백 (수동검토)
  • 모델 성능에 관한 중요한 정보를 측정
• 개인 정보 보호
  • 예) 암호화된 머신러닝 : 암호화된 공간에서 전체 학습 실행

파이프라인 오케스트레이션

• 머신러닝 파이프라인 작업을 관리
  • 아파치 빔
  • 아파치 에어플로
  • 쿠브플로 파이프라인
  • 쿠버네티스
  • 인프라용 쿠브플로 파이프라인
• 방향 비순환 그래프 (Directed Acyclic Graph) : 방향성 및 비순환성

예제

• 데이터
  • 미국 소비자 금융 보호국의 소비자 불만 사항 모음
  • https://oreil.ly/0RVBG
• 프로젝트 구조
  • python 3.6-3.8, TF 2.2.0, TFX 1.2.0
  • https://github.com/chris-chris/building-machine-learning-pipelines.git
• 모델
  • components/module.py 의 get_model 함수로 생성한 모델
• 목표
  • 소비자가 이의를 제기했는지 예측
  • 

[SAgiKPJH]

2 TFX

• 두가지 용도
  • 처리단계 (데이터 유효성 검사, 데이터 전처리) TFX 컴포넌트 내부에서 수행
  • 파이프라인 오케스트레이터 사용
• 아파치 빔 사용 이유
  • TFX 컴포넌트 이해에 도움이 되기 때문
  • 사용자 지정 컴포넌트 작성에 반드시 필요하기 때문
  • 분산처리가 필요하기 때문
• TFX 컴포넌티 및 라이브러리
  • 
• TFX 설치 : pip install tfx==1.2.0
• TFX 사용

import tensorflow_data_validation as tfdv
import tensorflow_transform as tft
import tensorflow_transform.beam as tft_beam

from tfx.components import ExampleValidator
from tfx.components import Evaluator
from tfx.components import Transform

[SAgiKPJH]

Github 링크

• https://github.com/chris-chris/building-machine-learning-pipelines