IMPROVE RAG ASSISTANT INFERENCE SPEED -- 2
Descrição da oferta de emprego
The assistant currently handles generative AI, specifically text generation, but I'm facing significant issues with its inference speed.
Key Tasks.
- Analyze the current setup and identify bottlenecks that are affecting the performance, especially the inference speed of the RAG assistant.
- Suggest and implement optimizations that will improve the inference speed without compromising the quality of the text generation.
- Test the enhancements thoroughly to ensure they are effective and reliable.
Ideal Skills and Experience.
- Proficiency in generative AI, particularly text generation, is a must.
- Extensive experience in optimizing inference speed for generative AI models.
- Strong background in performance tuning on local PCs.
- Excellent problem-solving and analytical skills.
I'm looking for a professional who can not only boost the inference speed of my RAG assistant but also provide insights into long-term strategies for maintaining optimal performance.
LLaMA Generative AI Streamlit ID do Projeto.
# Sobre o projeto 4 propostas Aberto para ofertas Projeto remoto Ativo em 1 hora atrás
Detalhes da oferta
- Indeterminado
- Em todo Portugal
- Indeterminado - Indeterminado
- 06/09/2024
- 05/12/2024
Perfil: experiência profissional comprovada como sales assistant em marcas inseridas no segmento premium com atendimento personalizado (mínimo de 2 anos) - fator eliminatório igual disponibilidade para trabalhar num dos seguintes locais: colombo, amoreiras e vasco da gama - fator eliminatório habilitações......
Le candidat idéal aura de 1 à 2 ans d'expérience préalable dans des emplois administratifs, un excellent niveau de français natif et de préférence une expérience dans le secteur de l'assurance... en tant qu'assistant(e) administratif(ve) francophone, vous serez responsable de la gestion des propositions......
Desafio: neste momento, encontramo-nos a recrutar um(a) luxury sales assistant para a loja atual do aeroporto de lisboa, com experiência em atendimento personalizado dentro do segmento premium, para integrar uma marca que se distingue em promover e valorizar a joalharia portuguesa, recuperando as técnicas......
Desafio: neste momento, encontramo-nos a recrutar um(a) luxury sales assistant para a loja atual do aeroporto de lisboa, com experiência em atendimento personalizado dentro do segmento premium, para integrar uma marca que se distingue em promover e valorizar a joalharia portuguesa, recuperando as técnicas......
Horário: 2 a 3x por semana das 14h- 18h renumeração compatível com cargo e horário, integração numa equipa jovem e dinâmica... centro de estudos fábrica dos sonhos localizado na baixa da banheira admite explicador de matemática para dar apoio ao estudo, explicações, preparação para testes e exames a......
Requisitos do trabalho requisitos: elevado sentido de responsabilidade; excelente capacidade de comunicação licenciatura e/ou mestrado em medicina dentária; experiência na área - mínimo de 2 anos... requisitos: elevado sentido de responsabilidade; excelente capacidade de comunicação licenciatura e/ou......
Requisitos do trabalho perfil:- inscrito na associação profissional respetiva (oa, oe ou oet);- cumpra os requisitos legais exigidos para ser projetista de scie das 2ª a 4ª categorias de risco experiência mínima de 2 anos de elaboração de map;- domínio do software autocad e office;- orientação para o......
O real hotels group resulta da fusão, em 2020, de dois grupos hoteleiros nacionais, os detentores da marca real e a newpalm, operadora holiday inn express da ihg, tornando-se a maior fusão da indústria hoteleira portuguesa na última década, com 16 hotéis, 2... para reforçar a equipa de front-office em......
Société en pleine croissance, génération est une référence du marché de l’assurance de personnes, spécialisée dans la gestion de contrats santé et prévoyance avec plus de 1000 collaborateurs, répartis sur 2 sites, qui partagent et portent quotidiennement nos valeurs : l’empathie, la simplicité et l’esprit......
A atlantic ferries é uma empresa do grupo sonae capital e iniciou a sua atividade em outubro de 2007, como concessionária do serviço público de transporte fluvial de passageiros, veículos ligeiros e pesados e de mercadorias, entre setúbal e a península de troia... com uma frota composta por dois ferries......
