会员登录 立即注册

搜索

孙思邈中文医疗大模型

[复制链接]
崎山小鹿 发表于 2024-2-6 16:50:25 | 显示全部楼层 |阅读模式
崎山小鹿
2024-2-6 16:50:25 947 4 看全部
孙思邈, 唐代医药学家、道士, 被后人尊称为"药王". 其十分重视民间的医疗经验, 不断积累走访, 及时记录下来, 写下著作《千金要方》. 唐朝建立后, 孙思邈接受朝廷的邀请, 与政府合作开展医学活动, 完成了世界上第一部国家药典《唐新本草》.

孙思邈中医药大模型(简称: Sunsimiao)希望能够遵循孙思邈的生平轨迹, 重视民间医疗经验, 不断累积中医药数据, 并将数据附加给模型, 致力于提供安全、可靠、普惠的中医药大模型.

目前, Sunsimiao是由baichuan-7B在10w条高质量的中医药数据中通过qlora微调而得, 后续将收集更多数据, 扩充模型能力, 不断迭代更新, 敬请期待.

在魔塔社区部署非常简单,详细
孙思邈中医大模型.png

下面介绍在本地部署使用方法

一、下载工程文件
Clone with HTTP

git clone https://www.modelscope.cn/AI-ModelScope/Sunsimiao.git

二、部署python环境
pyenv local 3.11.0b4

三、部署组件
pip install modelscope

modelscope

modelscope

继续

modescope2

modescope2


pip install torch==2.0.1

torch

torch


pip install transformers==4.30.2
(pip install  transformers会出问题)
transformers.png

pip install sentencepiece

see

see


四、代码测试

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

pipe = pipeline(task=Tasks.text_generation, model='AI-ModelScope/Sunsimiao', model_revision='v1.0.0')

query = '小孩发烧了怎么办?'

prompt="Below is an instruction that describes a task. Write a response that appropriately completes the request."
prompt+="### Instruction:\n{}\n\n### Response:\n".format(query)

result = pipe(prompt)
print(result)

下载模型

下载模型


返回:
{'text': 'Below is an instruction that describes a task. Write a response that appropriately completes the request.### Instruction:\n小孩发烧了怎么办?\n\n### Response:\n\n如果您的孩子发烧了,您可以参考以下建议:\n\n1. 帮助孩子退热:\n\n将冷水倒入一个杯子,放在孩子的腋下(或额头),每5分钟转一次。\n\n将冰毛巾擦在孩子的胸部、颈部和后背。\n\n将退烧药放在孩子额头或颈部。\n\n2. 检查孩子的症状:\n\n是否咳嗽、鼻塞或流鼻涕?\n\n3. 根据症状:\n\n如果孩子咳嗽,可以给孩子喝些水或温水,并给孩子喝一些蜂蜜;\n\n如果孩子鼻塞,可以给孩子吸入一些蒸汽;\n\n如果孩子发烧,可以给孩子喂些温水,并让孩子休息;\n\n如果孩子呼吸急促或呼吸困难,应立即就医。\n\n4. 如果孩子有其他不适:\n\n如果孩子没有食欲或呕吐,可以给孩子吃些软餐;\n\n如果孩子感到疲倦,可以让孩子休息;\n\n如果孩子的眼睛出现红色或分泌物,应立即就医。\n\n5. 注意孩子的个人卫生:\n\n让孩子勤喝水,勤洗手,保持室内通风;\n\n避免孩子与别的孩子进行密切接触,以免传染。\n\n祝您的孩子早日康复!'}

在本地部署非常麻烦。

免责申明
孙思邈中医药大模型存在固有的局限性, 可能产生错误的、有害的、冒犯性的或其他不良的输出. 用户在关键或高风险场景中应谨慎行事, 不要使用这些模型作为最终决策参考, 以免导致人身伤害、财产损失或重大损失.

孙思邈中医药大模型由baichuan-7B模型微调而得, 按"原样"提供, 在任何情况下, 作者、贡献者或版权所有者均不对因软件或使用或其他软件交易而产生的任何索赔、损害赔偿或其他责任(无论是合同、侵权还是其他原因)承担责任.

使用孙思邈中医药大模型即表示您同意这些条款和条件, 并承认您了解其使用可能带来的潜在风险. 您还同意赔偿并使作者、贡献者和版权所有者免受因您使用孙思邈中医药大模型而产生的任何索赔、损害赔偿或责任的影响.

●ModelScope旨在打造下一代开源的模型即服务共享平台,为广泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,使模型应用变的更简单。Modelscope社区中的大部分模型都可以通过Pipeline定义和调用,这些模型即为普通模型。
prompt:对话模型的输入语句。
response:为对话模式的回答

pipeline构造参数#
task: 任务名称,必填
model: 模型名称或模型实例,可选。不填时使用该任务默认模型
preprocessor: 预处理器实例,可选。不填时使用模型配置文件中的预处理器
device: 运行设备,可选。值为cpu, cuda, gpu, gpu:X or cuda:X,默认gpu
device_map: 模型参数到运行设备的映射,可选,不可与device同时配置。值为auto, balance, balanced_low_0, sequential或映射dict
pipeline的更多资料

requirements2.txt (10.49 KB, 下载次数: 2)

更多资料:https://www.modelscope.cn/models/AI-ModelScope/Sunsimiao/summary
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-24 00:22:53 | 显示全部楼层
崎山小鹿
2024-2-24 00:22:53 看全部
pip install torch==2.0.1
pip install accelerate
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-24 22:54:47 | 显示全部楼层
崎山小鹿
2024-2-24 22:54:47 看全部
ValueError: The current `device_map` had weights offloaded to the disk. Please provide an `offload_folder` for them. Alternatively, make sure you have `safetensors` installed if the model you are using offers the weights in this format.

ValueError:当前的“device_map”已将权重卸载到磁盘。请为它们提供一个“offload_folder”。或者,如果您使用的模型提供这种格式的权重,请确保安装了“安全张量”。

网上找到了遇到相同情况的人,

参考:》详情《 作者:一意AI增效家
来自阿里的解答
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-25 00:31:59 | 显示全部楼层
崎山小鹿
2024-2-25 00:31:59 看全部
PyTorch是一个基于Torch的Python开源机器学习库,用于自然语言处理等应用程序。它主要由Facebookd的人工智能小组开发,不仅能够 实现强大的GPU加速,同时还支持动态神经网络,这一点是现在很多主流框架如TensorFlow都不支持的。 PyTorch提供了两个高级功能: 1.具有强大的GPU加速的张量计算(如Numpy) 2.包含自动求导系统的深度神经网络 除了Facebook之外,Twitter、GMU和Salesforce等机构都采用了PyTorch。

官方教程包含了 PyTorch 介绍,安装教程;60分钟快速入门教程,可以迅速从小白阶段完成一个分类器模型;计算机视觉常用模型,方便基于自己的数据进行调整,不再需要从头开始写;自然语言处理模型,聊天机器人,文本生成等生动有趣的项目。详情
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-25 13:48:18 | 显示全部楼层
崎山小鹿
2024-2-25 13:48:18 看全部
出现错误:
AttributeError: SunsimiaoTextGenerationPipeline: 'BaiChuanTokenizer' object has no attribute 'sp_model'

运行如下代码:
query = '小孩发烧了怎么办?'

prompt="Below is an instruction that describes a task. Write a response that appropriately completes the request."
prompt+="### Instruction:\n{}\n\n### Response:\n".format(query)

result = pipe(prompt)
print(result)
回复

使用道具 举报

  • 您可能感兴趣
您需要登录后才可以回帖 登录 | 立即注册 |

本版积分规则 返回列表

查看:947 | 回复:4

  • GG修改器

    GG修改器的官网下载地址:https://gameguardian.net/download

    阅读:32|2024-06-12
  • 微信小程序云函数

    当一个小程序云函数的请求数据经过腾讯自己构造mmtls加密传输后,若要想解密->修改->

    阅读:544|2024-05-08
  • JEB Android反编译、反汇编、动态调试工具

    JEB 是由 PNF 软件(PNF Software)机构开发的一款专业的安卓应用程序的反编译工具,

    阅读:524|2024-05-02
  • Lsposed Hook 环境搭建

    Lsposed Hook 环境搭建 Lsposed的开发环境同Xposed的一致。 首先,我们打开Android S

    阅读:533|2024-04-26
  • jadx 调试器 分析微信

    官网下载:https://sourceforge.net/projects/jadx.mirror/ 用于从 Android Dex 和 a

    阅读:544|2024-04-24
  • 开发者工具DevTools调试小程序

    Sources: 这个能功区域主要就是让我们用打断点的,调试代码的,断点打在.JS文件(调试快

    阅读:496|2024-04-24
  • x64dbg 微信小程序

    x64dbg 下载地址:https://sourceforge.net/projects/x64dbg/ x64dbg 是一款开源的调

    阅读:716|2024-04-22
  • Frida hook 微信小程序

    Hook的原理简单地说就是用一个新的函数替代掉原来的函数,在这个新的函数中你想做什么

    阅读:883|2024-04-17
  • Fiddler绕过证书锁定(LSPosed+TrustMeAlready)

    现在的APP防止薅羊毛,大多都会检测模拟器的,因为模拟器跟手机的芯片架构不同,包括

    阅读:636|2024-04-11
  • 用图片或视频驱动的人物模型DeepFaceLab

    一位在高墙之内,身穿囚服的罪犯,戴着手铐脚镣接受警察的审问。他如实的交代了他的罪

    阅读:630|2024-03-24
金双石科技,软件开发20年,技术行业领先,您的满意,就是我们的目标,认真负责,开拓进取,让成品物超所值
关于我们
公司简介
发展历程
联系我们
本站站务
友情链接
新手指南
内容审核
商家合作
广告合作
商家入驻
新闻合作

手机APP

官方微博

官方微信

联系电话:15876572365 地址:深圳市宝安区西乡街道宝民二路宝民花园5巷6栋405 ( 粤ICP备2021100124号-1 ) 邮箱:qishanxiaolu@qq.com
QQ|Powered by Discuz! X3.5 © 2001-2024 Discuz! Team.
快速回复 返回顶部 返回列表