Tomato Disease Classification Model Deploy

1. Streamlit이란?

  • 데모 형식으로 웹을 만들 수 있는 프레임워크
  • 단점 : Interactive (파라미터, input shape, batch size 등 사용자가 화면에서 선택 할 경우) 한 동작이 발생 할 경우 새로 고침이 됨 -> form과 submit 이용해야 함

2. How to run

1-1) 플라스크 API 서버 (모델 서빙) : python flask_server.py

  • 터미널을 열어 플라스크 API 서버 (모델 서빙)을 먼저 실행 합니다.

1-2) (Option) 플라스크 API 서버 (모델 서빙) 테스트 : python flask_test.py

  • ‘필요 시’ 터미널을 열어 플라스크 API 서버 (모델 서빙)을 테스트 합니다.

2-1) Streamlit : streamlit run streamlit.py

  • 터미널을 열어 Stremlit으로 개발 된 데모 웹 페이지를 실행 합니다.

2-2) 사용자는 http://127.0.0.1:5000/으로 웹 페이지에 접근 가능 합니다.

3. DIR 구조 설명

  • inference/ : 인퍼런스가 진행 되는 로직입니다. (학습 된 모델을 폴더 구조에 넣어 두고 > 모델을 미리 정의 해 둔 틀에 끼워서 로드 한 후 > 정규화 해서 > 요청이 들어 올 때 마다 결과 출력 하여 반환)
  • inference_image/ : 인퍼런스 할 이미지를 담는 곳입니다. (테스트 용)
  • model/ : 학습 된 모델 ‘틀’을 담는 곳입니다.
  • trained_model/ : 학습 된 모델을 담는 곳입니다.
  • flask_server.py : 플라스크 API 서버 (모델 서빙) 실행 파일
  • flask_test.py : 플라스크 API 서버 (모델 서빙) 테스트 파일
  • requirements.txt : 필요 라이브러리 설치
  • streamlit.py : 스트림릿 데모 웹 페이지

4. 프로젝트 진행 순서

1) 토마토 잎 분류 best 모델 저장

2) 플라스크 API 서버 (모델 서빙) 개발

3) 플라스크 API 서버 (모델 서빙) 테스트

4) 스트림릿 데모 웹 페이지 개발

5. 아키텍쳐 설명

1) 인퍼런스 로직 (PyTorch)

  • 학습 된 모델 로드 (나의 best 모델을 로컬 특정 폴더에 위치 시키기!)
  • 인풋 이미지 정규화
  • Request 발생 시 인퍼런스 결과 반환

2) 모델 서빙 (Flask)

  • Request 이미지 파일
  • 인퍼런스 로직 적용
  • 요청이 들어 올 때 마다 인퍼런스 결과 반환

3) 웹 페이지 (Streamlit)

  • 사용자가 이미지 업로드
  • 플라스크 API 서버로 이미지 request
  • 인퍼런스 진행 된 response 결과 파싱
  • Streamlit 화면에 뿌림

6. 기타

  • 여러 데이터를 한 번에 인퍼런스 할 경우 고려하기
  • 인퍼런스가 돌 때 추가 호출이 올 경우 고려하기
  • 배치성, 실시간성, 큐에 넣고 한 번에 동작 등 여러 시나리오 고려 하기

GitHub

View Github