Tout ce dont vous avez besoin est la nouvelle application d’Olllama

Image de l’éditeur | Chatte

À l’ère actuelle des produits de modèle grand langage (LLM) tels que Chatgpt ou Gemini, nous nous sommes appuyés sur ces outils pour augmenter notre productivité en aidant à diverses tâches, telles que répondre aux questions, résumer des documents, des activités de planification, etc. Ces outils sont devenus une partie de notre vie quotidienne.

Cependant, bon nombre de ces produits sont hébergés dans le cloud et nous devons y accéder via leur plate-forme. De plus, chaque plate-forme est généralement limitée à ses propres modèles propriétaires et ne permettra pas d’utiliser d’autres LLM. C’est pourquoi l’application Olllama a été développée pour aider les utilisateurs qui souhaitent implémenter divers LLM dans leur environnement local.

Olllama existe depuis un certain temps et a déjà aidé de nombreux utilisateurs à gérer les modèles de langue localement. La dernière mise à jour l’a rendu encore plus puissant.

Explorons pourquoi la nouvelle application d’Olllama devient un outil essentiel pour de nombreux utilisateurs.

# La nouvelle application d’Olllama

Comme mentionné, Ollla est un outil open source qui exécute les LLM dans un environnement local sans compter sur l’hébergement cloud. Nous pouvons explorer Quels modèles sont disponibles Sur le site d’Olllama, téléchargez-les et exécutez-les directement à l’aide de l’interface d’application. L’application agit comme un gestionnaire de modèles local qui héberge divers modèles à exécuter librement. Une application locale comme celle-ci profite à l’utilisateur en leur permettant d’avoir la liberté tout en préservant la confidentialité des données et en réduisant toute latence.

Le plus grand développement est que Olllama fonctionne désormais en tant qu’application GUI autonome, par opposition uniquement via la ligne de commande. Il est révolu le temps de nécessairement À la recherche, l’installation et la configuration d’une application d’interface utilisateur tierce (ou l’écriture de la vôtre) qui pourrait transformer Olllama en une expérience plus agréable. Bien sûr, vous pouvez toujours faire tout cela, mais il n’est plus nécessaire.

Avec la nouvelle mise à jour, l’application Olllama est devenue plus utile que jamais et nous explorerons chacune de ses fonctionnalités individuellement.

L’application Olllama permet aux utilisateurs d’utiliser un LLM localement en téléchargeant le modèle dans leur environnement local. Vous pouvez interagir avec un modèle en le sélectionnant et en fournissant une invite pour obtenir un résultat.

Olllama garde votre historique de conversation, vous permettant de suivre la conversation.

Si un modèle n’est pas encore disponible localement, la nouvelle application Olllama le télécharge automatiquement avant d’exécuter l’invite. Cela simplifie l’expérience utilisateur, car ils n’ont plus besoin de télécharger des modèles séparément avant l’utilisation.

Une autre nouvelle fonctionnalité est la possibilité de discuter avec vos fichiers. En faisant glisser et en supprimant un fichier sur l’application Olllama, nous pouvons poser des questions sur son contenu.

Le résultat est indiqué ci-dessous, où le modèle accède au fichier et exécute l’invite en fonction du document fourni.

Si vous devez traiter de nombreux documents plus importants, vous pouvez augmenter la longueur du contexte d’Olllama à travers les paramètres. Cependant, l’augmentation de la longueur du contexte nécessitera plus de mémoire pour garantir des performances stables.

Les nouvelles fonctionnalités d’Olllama ne se limitent pas aux documents textuels comme PDF et Word. Il offre également un support multimodal, à condition que le modèle choisi peut traiter différents types de données. Par exemple, nous pouvons utiliser un modèle comme Llama pour traiter une image, comme indiqué ci-dessous.

Le résultat est illustré ci-dessous.

Enfin, la nouvelle application Ollama peut traiter les fichiers de code pour produire de la documentation. Cette fonctionnalité est particulièrement bénéfique pour les développeurs.

Le résultat est illustré ci-dessous.

Ce sont les nouvelles fonctionnalités clés offertes par Olllama pour améliorer votre productivité. Nous vous encourageons à les utiliser dans votre travail.

# Emballage

Olllama est une application qui permet aux utilisateurs d’exécuter des LLM dans un environnement local. Il s’agit d’un outil précieux pour tout utilisateur qui souhaite tester divers modèles et garder ses données privées. Sa nouvelle version offre des fonctionnalités plus puissantes, y compris une interface utilisateur de chat utilisable, un téléchargement facile du modèle, la possibilité de discuter avec vos fichiers, votre support multimodal et le traitement du code.

J’espère que cela a aidé!

Cornellius Yudha Wijaya est un directeur adjoint des sciences de données et un écrivain de données. Tout en travaillant à plein temps chez Allianz Indonesia, il aime partager des conseils de python et de données via les médias sociaux et la rédaction des médias. Cornellius écrit sur une variété d’IA et de sujets d’apprentissage automatique.