• Alexon:在云原生环境中快速部署应用服务


    Alexon是一个旨在快速部署WEB应用服务到分布式系统中的工具,适用于云原生环境。 Alexon由SymeCloud Limited(syme.dev) 发布,使用GNU Guile编写而成,支持函数编程概念。
    SymeCloud 公司主要致力于 AI-Infra 方面的研发,从 OpenAI 泄露出的技术架构来看,基于大语言模型的推理产品的主要工程难度在于部署。产品级 LLM 并不是简单地跑个单节点,而是有复杂的架构划分与数据流优化组合,这使得原本就复杂的云原生体系在LLM领域将面对更加高复杂度的挑战。Alexon 的目标就是利用函数式编程的特性和模板系统为LLM推理系统的快速试错和部署尽可能降低复杂度,为后续的系统研究铺平道路。
    Alexon 将为您处理 Kubernetes、DNS、负载平衡和所有复杂问题,使您无需接受大量培训即可使您的项目转向云原生,这样您就可以花更多的时间开发您的产品并改善用户体验。
    使用Alexon无需花费大量时间来配置 Kubernetes或K3S 组件,只需要编写一个manifest文件并应用它即可。
    运行一个博客系统:
    1 编写Application manifest
    apiVersion: syme.dev/alexon/app/v1-alpha
    kind: Application
    name: my-blog
    port: 8080
    nodes:
      nodeFile:
        path: /etc/alexon/templates/colt.yaml
    2 编写Worker-Node manifest
    apiVersion: syme.dev/alexon/worker/v1-alpha
    kind: Worker
    cluster: colt
    nodeDef:
      name: colt
      image: registry.gitlab.com/nalaginrut/colt:latest
      workdir: /colt
      cmd: art work --refresh
      ports:
        - name: http
          bind: 3000:3000
    3 alexon app create my-app.yaml 并 在浏览器中访问Worker-Node的8080端口

    Alexon扮演了一个由Kubernetes、Docker、Nginx、CoreDNS等众多组件组成的“雇佣兵团”的领导者角色。Alexon 提供了用于部署和管理容器化应用程序的简化解决方案,旨在简化在分布式环境中构建和部署应用程序的过程,并基于微服务架构,可轻松扩展和高可用性。推荐使用docker来部署Alexon。

    docker run -it --rm \

    -v $PWD:/alexon \

    -v /var/run/docker.sock:/var/run/docker.sock \

    registry.gitlab.com/symecloud/alexon:latest \

    "$@"

  • 相关阅读:
    基于水基湍流优化的BP神经网络(分类应用) - 附代码
    气象数据库分析
    SpringBoot中配置、启动Tomcat总结
    Promise初体验
    消费升级下摩托车TBOX市场未来十年CAN数据应用发展趋势展望
    JVM面试
    DeepStream系列之yolov6部署测试
    Python filter 用法
    一文理解登录鉴权(Cookie、Session、Jwt、CAS、SSO)
    JS宏任务与微任务
  • 原文地址:https://blog.csdn.net/UsamaBinLaden6976498/article/details/134010482