会员登录 立即注册

搜索

孙思邈中文医疗大模型

[复制链接]
崎山小鹿 发表于 2024-2-6 16:50:25 | 显示全部楼层 |阅读模式
崎山小鹿
2024-2-6 16:50:25 2440 4 看全部
孙思邈, 唐代医药学家、道士, 被后人尊称为"药王". 其十分重视民间的医疗经验, 不断积累走访, 及时记录下来, 写下著作《千金要方》. 唐朝建立后, 孙思邈接受朝廷的邀请, 与政府合作开展医学活动, 完成了世界上第一部国家药典《唐新本草》.

孙思邈中医药大模型(简称: Sunsimiao)希望能够遵循孙思邈的生平轨迹, 重视民间医疗经验, 不断累积中医药数据, 并将数据附加给模型, 致力于提供安全、可靠、普惠的中医药大模型.

目前, Sunsimiao是由baichuan-7B在10w条高质量的中医药数据中通过qlora微调而得, 后续将收集更多数据, 扩充模型能力, 不断迭代更新, 敬请期待.

在魔塔社区部署非常简单,详细
孙思邈中医大模型.png

下面介绍在本地部署使用方法

一、下载工程文件
Clone with HTTP

git clone https://www.modelscope.cn/AI-ModelScope/Sunsimiao.git

二、部署python环境
pyenv local 3.11.0b4

三、部署组件
pip install modelscope

modelscope

modelscope

继续

modescope2

modescope2


pip install torch==2.0.1

torch

torch


pip install transformers==4.30.2
(pip install  transformers会出问题)
transformers.png

pip install sentencepiece

see

see


四、代码测试

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

pipe = pipeline(task=Tasks.text_generation, model='AI-ModelScope/Sunsimiao', model_revision='v1.0.0')

query = '小孩发烧了怎么办?'

prompt="Below is an instruction that describes a task. Write a response that appropriately completes the request."
prompt+="### Instruction:\n{}\n\n### Response:\n".format(query)

result = pipe(prompt)
print(result)

下载模型

下载模型


返回:
{'text': 'Below is an instruction that describes a task. Write a response that appropriately completes the request.### Instruction:\n小孩发烧了怎么办?\n\n### Response:\n\n如果您的孩子发烧了,您可以参考以下建议:\n\n1. 帮助孩子退热:\n\n将冷水倒入一个杯子,放在孩子的腋下(或额头),每5分钟转一次。\n\n将冰毛巾擦在孩子的胸部、颈部和后背。\n\n将退烧药放在孩子额头或颈部。\n\n2. 检查孩子的症状:\n\n是否咳嗽、鼻塞或流鼻涕?\n\n3. 根据症状:\n\n如果孩子咳嗽,可以给孩子喝些水或温水,并给孩子喝一些蜂蜜;\n\n如果孩子鼻塞,可以给孩子吸入一些蒸汽;\n\n如果孩子发烧,可以给孩子喂些温水,并让孩子休息;\n\n如果孩子呼吸急促或呼吸困难,应立即就医。\n\n4. 如果孩子有其他不适:\n\n如果孩子没有食欲或呕吐,可以给孩子吃些软餐;\n\n如果孩子感到疲倦,可以让孩子休息;\n\n如果孩子的眼睛出现红色或分泌物,应立即就医。\n\n5. 注意孩子的个人卫生:\n\n让孩子勤喝水,勤洗手,保持室内通风;\n\n避免孩子与别的孩子进行密切接触,以免传染。\n\n祝您的孩子早日康复!'}

在本地部署非常麻烦。

免责申明
孙思邈中医药大模型存在固有的局限性, 可能产生错误的、有害的、冒犯性的或其他不良的输出. 用户在关键或高风险场景中应谨慎行事, 不要使用这些模型作为最终决策参考, 以免导致人身伤害、财产损失或重大损失.

孙思邈中医药大模型由baichuan-7B模型微调而得, 按"原样"提供, 在任何情况下, 作者、贡献者或版权所有者均不对因软件或使用或其他软件交易而产生的任何索赔、损害赔偿或其他责任(无论是合同、侵权还是其他原因)承担责任.

使用孙思邈中医药大模型即表示您同意这些条款和条件, 并承认您了解其使用可能带来的潜在风险. 您还同意赔偿并使作者、贡献者和版权所有者免受因您使用孙思邈中医药大模型而产生的任何索赔、损害赔偿或责任的影响.

●ModelScope旨在打造下一代开源的模型即服务共享平台,为广泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,使模型应用变的更简单。Modelscope社区中的大部分模型都可以通过Pipeline定义和调用,这些模型即为普通模型。
prompt:对话模型的输入语句。
response:为对话模式的回答

pipeline构造参数#
task: 任务名称,必填
model: 模型名称或模型实例,可选。不填时使用该任务默认模型
preprocessor: 预处理器实例,可选。不填时使用模型配置文件中的预处理器
device: 运行设备,可选。值为cpu, cuda, gpu, gpu:X or cuda:X,默认gpu
device_map: 模型参数到运行设备的映射,可选,不可与device同时配置。值为auto, balance, balanced_low_0, sequential或映射dict
pipeline的更多资料

requirements2.txt (10.49 KB, 下载次数: 3)

更多资料:https://www.modelscope.cn/models/AI-ModelScope/Sunsimiao/summary
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-24 00:22:53 | 显示全部楼层
崎山小鹿
2024-2-24 00:22:53 看全部
pip install torch==2.0.1
pip install accelerate
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-24 22:54:47 | 显示全部楼层
崎山小鹿
2024-2-24 22:54:47 看全部
ValueError: The current `device_map` had weights offloaded to the disk. Please provide an `offload_folder` for them. Alternatively, make sure you have `safetensors` installed if the model you are using offers the weights in this format.

ValueError:当前的“device_map”已将权重卸载到磁盘。请为它们提供一个“offload_folder”。或者,如果您使用的模型提供这种格式的权重,请确保安装了“安全张量”。

网上找到了遇到相同情况的人,

参考:》详情《 作者:一意AI增效家
来自阿里的解答
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-25 00:31:59 | 显示全部楼层
崎山小鹿
2024-2-25 00:31:59 看全部
PyTorch是一个基于Torch的Python开源机器学习库,用于自然语言处理等应用程序。它主要由Facebookd的人工智能小组开发,不仅能够 实现强大的GPU加速,同时还支持动态神经网络,这一点是现在很多主流框架如TensorFlow都不支持的。 PyTorch提供了两个高级功能: 1.具有强大的GPU加速的张量计算(如Numpy) 2.包含自动求导系统的深度神经网络 除了Facebook之外,Twitter、GMU和Salesforce等机构都采用了PyTorch。

官方教程包含了 PyTorch 介绍,安装教程;60分钟快速入门教程,可以迅速从小白阶段完成一个分类器模型;计算机视觉常用模型,方便基于自己的数据进行调整,不再需要从头开始写;自然语言处理模型,聊天机器人,文本生成等生动有趣的项目。详情
回复

使用道具 举报

 楼主| 崎山小鹿 发表于 2024-2-25 13:48:18 | 显示全部楼层
崎山小鹿
2024-2-25 13:48:18 看全部
出现错误:
AttributeError: SunsimiaoTextGenerationPipeline: 'BaiChuanTokenizer' object has no attribute 'sp_model'

运行如下代码:
query = '小孩发烧了怎么办?'

prompt="Below is an instruction that describes a task. Write a response that appropriately completes the request."
prompt+="### Instruction:\n{}\n\n### Response:\n".format(query)

result = pipe(prompt)
print(result)
回复

使用道具 举报

  • 您可能感兴趣
  • 生成身临其境的环境模型
    生成身临其境的环境模型
    清华大学创作的AI软件 aiuni Aiuni.ai是一个基于Unique3D的在线AI图片转3D模型生成建
    09-07
  • 站长日记-天道与畜生道
    站长日记-天道与畜生道
    天道无情,但众生平等,无为却处处体现博爱。畜生道有情,讲的是尊卑次序只为繁衍,处
    06-20
  • 墨者的几个阶段
    墨者的几个阶段
    一、知毛泽东,不知有墨子。 二、知墨子,但依然儒法道行事。 三、知墨子,尝试墨家
    08-31
  • 图生产3D模型
    图生产3D模型
    https://hyperhuman.deemos.com/ 上传图片,点击生成 可以多生成几次,点击应用
    08-30
  • 如何给3D人物换衣服CC4
    如何给3D人物换衣服CC4
    1.导入人物 2.设置人物Apose 3.导入衣服 create -> accessory 选择fbx文件 设置
    08-30
您需要登录后才可以回帖 登录 | 立即注册 |

本版积分规则 返回列表

查看:2440 | 回复:4

  • 生成身临其境的环境模型

    清华大学创作的AI软件 aiuni Aiuni.ai是一个基于Unique3D的在线AI图片转3D模型生成建

    阅读:28|2024-09-07
  • 墨者的几个阶段

    一、知毛泽东,不知有墨子。 二、知墨子,但依然儒法道行事。 三、知墨子,尝试墨家

    阅读:279|2024-08-31
  • 图生产3D模型

    https://hyperhuman.deemos.com/ 上传图片,点击生成 可以多生成几次,点击应用

    阅读:254|2024-08-30
  • 如何给3D人物换衣服CC4

    1.导入人物 2.设置人物Apose 3.导入衣服 create -> accessory 选择fbx文件 设置

    阅读:245|2024-08-30
  • 墨子平台总设计师

    相濡以墨,用墨子思想重塑商业,以商助墨,以墨韵商。商品把关,营销把关,职务把关

    阅读:228|2024-08-29
  • 招聘AI模型训练师

    训练人物模型,对换脸技术有研究。

    阅读:201|2024-08-29
  • 墨家商品联盟

    大家好,我是相濡以墨,我是墨子的忠实粉丝,现在墨家的朋友越来越多,很多墨家人多才

    阅读:230|2024-08-29
  • 精彩人工智能影视分享

    精彩人工智能影视分享 通过百度网盘分享的文件:AI影视 链接:https://pan.baidu.com

    阅读:276|2024-08-28
  • 墨子从两千年的沉睡中醒来

    大家好,我是墨翟,就是你们后世称之为的墨子,我突然从战国时代的沉睡中苏醒,置身于

    阅读:301|2024-08-24
  • 机器人模型制作

    使用图片 关键词: 未来人机合体,科幻,真人头部,头部以下是机器身体,身体透明外

    阅读:294|2024-08-22
金双石科技,软件开发20年,技术行业领先,您的满意,就是我们的目标,认真负责,开拓进取,让成品物超所值
关于我们
公司简介
发展历程
联系我们
本站站务
友情链接
新手指南
内容审核
商家合作
广告合作
商家入驻
新闻合作

手机APP

官方微博

官方微信

联系电话:15876572365 地址:深圳市宝安区西乡街道宝民二路宝民花园 ( 粤ICP备2021100124号-1 ) 邮箱:qishanxiaolu@qq.com
QQ|Powered by Discuz! X3.5 © 2001-2024 Discuz! Team.
快速回复 返回顶部 返回列表