Swift Transformers 1.0 출시 – 미래를 바라보다

  • Swift-transformers는 Apple 개발자들이 로컬 LLM(대형 언어 모델)을 앱에 통합할 수 있도록 지원하는 Swift 라이브러리입니다. 이 라이브러리는 Apple Silicon 플랫폼에서 작동하며, Core ML 또는 MLX가 제공하지 않는 일부 필수 구성 요소를 포함합니다.

  • Swift-transformers의 주요 구성 요소로는 토크나이저, Hugging Face Hub와의 인터페이스, 그리고 Core ML 형식으로 변환된 LLM의 래퍼가 포함됩니다. 이러한 구성 요소는 로컬 추론을 가능하게 하는 데 중요합니다.

  • 커뮤니티는 Swift-transformers를 토크나이저와 Hub 모듈을 주로 사용하며, 주요 프로젝트로는 Apple의 mlx-swift-examples, argmax의 WhisperKit, 그리고 Apple의 FastVLM 등이 있습니다.

  • 1.0 버전 업데이트로 패키지의 안정성을 확보하고, 토크나이저와 Hub가 최상위 모듈로 업데이트되었습니다. 또한 Swift Jinja 라이브러리가 개선되어 성능이 크게 향상되었습니다.

  • Apple의 기여 덕분에 모델 상태 저장 기능과 표현적인 MLTensor API를 지원하는 현대의 Core ML API를 채택하여 성능을 최적화했습니다.

  • Swift 6이 완전히 지원되며, 새로운 버전은 더 나은 테스트와 문서 코멘트를 제공합니다.

  • 앞으로의 목표는 MLX의 통합을 더욱 개선하고, agentic 사용 사례 및 MCP에 관한 연구를 진행하는 것입니다. 개발자들이 문제를 해결할 수 있도록 지원하고자 합니다.

  • 라이브러리의 기여자와 사용자들에게 감사의 마음을 전하며, 향후 발전을 위한 협력을 기대하고 있습니다.


4huggingface.co링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약 한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.
원본 뉴스 보기