Skip to content

Latest commit

 

History

History

data_cache_pattern

README.md

데이터 캐시 패턴

목적

데이터를 캐시하고, 추론 속도를 개선합니다.

전제

  • Python 3.8 이상
  • Docker
  • Docker compose

사용법

  1. 현재 디렉토리
$ pwd
~/ml-system-in-actions/chapter4_serving_patterns/data_cache_pattern
  1. Docker 이미지 빌드
$ make build_all
# 실행 커맨드
# docker build \
#     -t shibui/ml-system-in-actions:data_cache_pattern_proxy_0.0.1 \
#     -f ./Dockerfile.proxy .
# docker build \
#     -t shibui/ml-system-in-actions:data_cache_pattern_pred_0.0.1 \
#     -f ./Dockerfile.pred .
  1. Docker compose 로 각 서비스 기동
$ make c_up
# 실행 커맨드
# docker-compose \
#     -f ./docker-compose.yml \
#     up -d
  1. 기동한 API 로 요청
# 헬스 체크
$ curl localhost:8000/health
# 출력
# {
#   "health": "ok"
# }

# 메타 데이터
$ curl localhost:8000/metadata
# 출력
# {
#   "data_type": "str",
#   "data_structure": "(1,1)",
#   "data_sample": "0000",
#   "prediction_type": "float32",
#   "prediction_structure": "(1,1000)",
#   "prediction_sample": "[0.07093159, 0.01558308, 0.01348537, ...]"
# }

# 라벨 목록
$ curl localhost:8000/label
# 출력
# [
#   "background",
#   "tench",
#   "goldfish",
# ...
#   "bolete",
#   "ear",
#   "toilet tissue"
# ]



# 테스트 데이터로 추론 요청
$ curl localhost:8000/predict/test/label
# 출력
# {
#   "prediction": "Persian cat"
# }

# 이미지 요청
$ curl \
    -X POST \
    -H "Content-Type: application/json" \
    -d '{"data": "0000"}' \
    localhost:8000/predict/label
# 출력
# {
#   "prediction": "Persian cat"
# }
  1. Docker compose 정지
$ make c_down
# 실행 커맨드
# docker-compose \
# 		-f ./docker-compose.yml \
# 		down