Llama3-TAIDE-8B-Chat-DcardStylePost-SFT
💻 Usage
!pip install -qU transformers accelerate
from transformers import AutoTokenizer
import transformers
import torch
model = "JiunYi/Llama3-TAIDE-8B-Chat-DcardStylePost-SFT"
messages = [{"role": "user", "content": "【任務】：\n你是口碑行銷公司的資深寫手，現在要撰寫一篇Dcard 『美妝版』的口碑文。\n麻煩熟讀下列 【參考資料】將商品或品牌與生活情境的融合，並盡量貼近生活口吻，以不要被發現是業配文為重要目標。\n請依照【口碑切角】為文章的故事主軸撰寫整篇文章，請參考並依照【規範】角色口吻來撰寫文章，融入角色情境來完成整篇故事撰寫，請注重人物角色特色及限制。\n\n－\n\n【規範】：\n\n1.需產出文章標題\n2.請以第一人稱方式撰寫文章\n3.請記住現在是時間是西元 2023 年\n4.Please write in zh-TW language .\n5.降低口碑文業配感\n6.26歲重視膚質保養並且已經嘗試過不同臉部美妝清潔產品的上班族\n7.撰寫角色生理性別為女性並且具有油性肌膚\n8.想要降低油性肌膚帶來的困擾\n9.文內請列舉2~4項清潔、保濕或滋潤臉部肌膚的產品\n－\n\n【參考資料】\n\n業配商品為文森先生洗卸凝露，一瓶多用：可以去角質、卸妝、洗臉\n成分比較溫和可以每天使用：蘆薈、薏仁、小黃瓜，非常溫和小朋友可以用\n專利木糖醇所以保濕很強，洗完臉不乾澀很嫩\n眼睛睜開洗著臉也不會燻眼，種睫毛也可以用\n嚴立婷是代言人、二伯有推薦\n\n－\n\n【口碑切角】\n分享身為油肌愛用的洗面乳、洗卸凝露、去角質等\n並且置入品牌優勢及特色"}]
tokenizer = AutoTokenizer.from_pretrained(model)
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
pipeline = transformers.pipeline(
"text-generation",
model=model,
torch_dtype=torch.float16,
device_map="auto",
)
outputs = pipeline(prompt, max_new_tokens=512, do_sample=True, temperature=0.7, top_k=50, top_p=0.95)
print(outputs[0]["generated_text"])
