TensorFlow Lite 변환기

TensorFlow Lite 변환기를 사용하면 TensorFlow 모델을 최적화된 FlatBuffer 형식으로 변환할 수 있으므로 TensorFlow Lite 인터프리터에서 사용할 수 있습니다.

FlatBuffer

FlatBuffer는 효율적인 오픈소스 크로스 플랫폼 직렬화 라이브러리입니다. FlatBuffer는 프로토콜 버퍼와 비슷하지만, 데이터에 액세스하기 전에 보조 표현으로의 파싱/압축해제 단계가 필요하지 않으며 객체별 메모리 할당을 방지한다는 차이가 있습니다. FlatBuffer의 코드 사용 공간은 프로토콜 버퍼보다 한 자릿수 작은 크기입니다.

모델 학습에서 기기 배포까지

TensorFlow Lite 변환기는 TensorFlow 모델에서 TensorFlow Lite FlatBuffer 파일(.tflite)을 생성합니다.

변환기는 다음 입력 형식을 지원합니다.

저장된 모델
정지된 GraphDef: freeze_graph.py에 의해 생성된 모델
tf.keras HDF5 모델
tf.Session에서 가져온 모델(Python API만 해당)

TensorFlow Lite FlatBuffer 파일이 클라이언트 기기에 배포되면 TensorFlow Lite 인터프리터는 기기 내 추론에 압축된 모델을 사용합니다. 이 변환 프로세스는 아래 다이어그램에 나와 있습니다.

TFLite 변환기 워크플로

옵션

TensorFlow Lite 변환기는 다음 두 옵션 중 하나에서 사용할 수 있습니다.

Python(권장): Python API를 사용하면 모델 개발 파이프라인의 일부로 모델을 더 쉽게 변환할 수 있으며 초기에 호환성 문제를 완화할 수 있습니다.
명령줄