Tasuta LLM vestlusrobot Telegramis

Kiire ja lihtne samm-sammult juhend
huggingface + telegram

Selles juhendis näitame, kuidas luua Telegrami bot, mis kasutab tasuta suurt keelemudelit (LLM). Eelnev kogemus pole vajalik. Kasutame tasuta tööriistu nagu Telegram, Hugging Face ja Python.

Hakkame pihta!

Mida vaja läheb

• Telegrami konto

• Hugging Face'i konto (tasuta)

• Pythoni põhihäälestus (Python installitud ja ideaalis virtuaalne keskkond seadistatud)

1. samm: Telegrami boti loomine

1. Ava Telegram oma seadmes.

2. Otsi BotFather ja klõpsa kinnitatud kontol ☑️.

3. Kirjuta /newbot ja järgi juhiseid:

Anna oma botile nimi

Loo kasutajanimi mis lõpeb bot-iga

4. BotFather saadab sulle boti tokeni. Kopeeri see token — vajad seda varsti.

2. samm: Tasuta LLM API võtme hankimine Hugging Face'ist

1. Mine lehele huggingface.co ja registreeru (tasuta).

2. Klõpsa oma profiili ikoonil → Access Tokens.

3. Klõpsa New Token, anna sellele nimi (nt "LLMBotToken") ja loo see kirjutamisõigusega - write.

4. Kopeeri API token.

5. Vali tasuta mudel Hugging Face'i mudelikeskusest. Tasuta mudelitel on avatud litsents (nt MIT, Apache 2.0). Selles juhendis kasutame DeepSeek-R1-Distill-Qwen-1.5B.

Pea meeles, et see on arutlusmudel, nii et see on üsna ohtrasõnaline. Saad sellega "mängida" otse Hugging Face'i veebisaidil või valida mõne muu.

6. Klõpsa Deploy → Inference Providers. Siin saad valida "Inference" pakkuja (pakub juurutatud mudeli kasutamist), et valitud mudel kasutusele võtta ja pääseda ligi näidis koodilõikudele Pythoni, JavaScripti ja cURL jaoks.

3. samm: Vajalike teekide installimine

1. Loo oma projekti jaoks uus kaust ja ava see oma terminalis.

2. Telegrami boti API ja Hugging Face'iga suhtlemiseks pead installima järgmised teegid:

pip install python-telegram-bot huggingface_hub

4. samm: Pythoni Telegrami boti skripti ettevalmistamine

1. Loo fail nimega bot.py.

2. Kleebi see kood faili sisse:


from telegram import Update
from telegram.ext import ApplicationBuilder, CommandHandler, MessageHandler, ContextTypes, filters
from huggingface_hub import InferenceClient

TELEGRAM_TOKEN = 'YOUR_TELEGRAM_BOT_TOKEN'
HF_API_KEY = 'YOUR_HF_API_TOKEN'

client = InferenceClient(
    provider="hf-inference",
    api_key=HF_API_KEY,
)

user_conversations = {}

async def start(update: Update, context: ContextTypes.DEFAULT_TYPE):
    await update.message.reply_text('Hello! Send me a message and I will reply using AI!')

async def handle_message(update: Update, context: ContextTypes.DEFAULT_TYPE):
    user_id = update.message.chat_id
    user_message = update.message.text
    await update.message.reply_text('Thinking... 🤔')

    if user_id not in user_conversations:
        user_conversations[user_id] = []

    user_conversations[user_id].append({"role": "user", "content": user_message})

    try:
        completion = client.chat.completions.create(
            model="deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B",
            messages=user_conversations[user_id],
            max_tokens=500,
        )

        response_text = completion.choices[0].message["content"]
        user_conversations[user_id].append({"role": "assistant", "content": response_text})

        await update.message.reply_text(response_text)

    except Exception as e:
        print(f"Error: {e}")
        await update.message.reply_text('Something went wrong! 😥')

def main():
    app = ApplicationBuilder().token(TELEGRAM_TOKEN).build()

    app.add_handler(CommandHandler("start", start))
    app.add_handler(MessageHandler(filters.TEXT & (~filters.COMMAND), handle_message))

    print("Bot is running...")
    app.run_polling()

if __name__ == '__main__':
    main()
                    

3. Asenda YOUR_TELEGRAM_BOT_TOKEN ja YOUR_HF_API_TOKEN oma tokenitega.

5. samm: Vestlusroboti käivitamine

1. Käivita oma terminalis:

python bot.py

2. Terminalis peaks ilmuma:

Bot is running...

3. Nüüd mine Telegrami, leia oma bot (kasutajanime järgi) ja alusta vestlust! See peaks vastama LLM-i väljundi põhjal.

Veaotsing:

Pane tähele: Populaarsetel Hugging Face'i mudelitel võib olla suur nõudlus. Kui mudelit kasutatakse palju, võib vastamine kauem aega võtta või see võib olla ajutiselt kättesaamatu. Ole kannatlik ja proovi hiljem uuesti.

Kui vestlusrobot ei vasta, kontrolli järgmist:

Veendu, et Telegrami token ja Hugging Face'i API võti on õiged.

Kontrolli, kas Hugging Face'i mudel on juurdepääsetav ja toimiv (lisateabe saamiseks vaata Hugging Face'i dokumentatsiooni).

Veendu, et sinu bot on vestlusele lisatud ja sa suhtled sellega.

Märts 2025

Toome teie visiooni ellu

Avastage meie teenuseid