TensorFlow 텍스트 소개

컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요.

TensorFlow Text는 TensorFlow 2.0에서 사용할 준비가 된 텍스트 관련 클래스 및 작업 모음을 제공합니다. 라이브러리는 텍스트 기반 모델에 필요한 사전 처리를 정기적으로 수행할 수 있으며 핵심 TensorFlow에서 제공하지 않는 시퀀스 모델링에 유용한 기타 기능을 포함합니다.

텍스트 사전 처리에서 이러한 작업을 사용하는 이점은 TensorFlow 그래프에서 수행된다는 것입니다. 훈련에서의 토큰화가 추론에서의 토큰화와 다르거나 전처리 스크립트를 관리하는 것에 대해 걱정할 필요가 없습니다.

TensorFlow 텍스트 설치

pip를 사용하여 설치

pip install로 TF Text를 설치할 때 TF Text의 해당 버전을 지정해야 하므로 실행 중인 TensorFlow 버전을 기록해 두십시오.

pip install -U tensorflow-text==<version>

소스에서 빌드

TensorFlow Text는 TensorFlow와 동일한 환경에서 빌드되어야 합니다. 따라서 TF Text를 수동으로 빌드하는 경우 TensorFlow도 빌드하는 것이 좋습니다.

MacOS에서 빌드하는 경우 coreutils가 설치되어 있어야 합니다. 아마도 Homebrew로 하는 것이 가장 쉬울 것입니다. 첫째, 빌드 TensorFlow 소스 .

TF 텍스트 리포지토리를 복제합니다.

git clone  https://github.com/tensorflow/text.git

마지막으로 빌드 스크립트를 실행하여 pip 패키지를 만듭니다.

./oss_scripts/run_build.sh