• 逆向工程:揭示Google Colab未公开的秘密


    c6748923fcec975cc166b390d48604f3.jpeg

    来源|Open Source Data Science Tools

    翻译|程浩源

    Google Colaboratory,简称 “Colab” ,是一个免费的Jupyter notebook云平台。Colab 不仅可以为用户提供 Python 和 R notebooks 的运行环境,而且还允许用户免费共享部分 GPU 和 TPU 资源。

    对于负责在 Jupyter Notebook 编程的数据科学家来说,Colab早已成为了默认的运行环境。然而,将 Colab 的算力运用到除 Jupter Notebooks 以外的其他应用,则是一件极其困难的事。

    对于那些想生产模型,并将其带出Notebook阶段的机器学习工程师而言,这样的问题尤为明显。虽然 Notebooks 非常适合用来探索,但将它与训练过程编入正式流水线的高级MLOps工具一起使用时,效果不佳。

    在遇到类似问题后,我决定不让 Colab 的局限性改变我的工作流程,而是尝试围绕我的工作流程去改变 Colab!

    出于这个原因,今天我们将探究 Google Colab 的内部结构,并尝试稍微改变 Colab 的内置规则。需要提前声明的是,我们只是想探究 Colab,不会对 Colab 本身或者它的用户造成任何影响。

    1

    揭开幕后的秘密

    Colab 的秘密在于它的后端:谷歌服务器为 Colab 提供基础设施支持,让用户可以轻松运行代码。因此,我们第一步先分析 Colab 的 API,最简单的方法是检查 Colab 在正常运行期间进行的 API 调用。

    首先打开谷歌开发者工具,找到网络(Network)选项,然后运行一段代码,开发者工具开始记录 Colab 发出的每个请求,然后我们发现了一些有趣的东西。

    41fa1f8b54985f18bbb3e2af24a83484.gif

    bc535d4be24ccb05a3978f59b4e6f9bc.png

    看上去这个URL(/tun/m//socket.io)是远程机器上运行的 Jupyter socket 的代理。

    如果我们从 Colab 界面的左窗格打开 Files 窗格(默认显示 /content 目录),就会发现另一个有趣的请求:

    56ab97fb7854a67fdc813896cdd9a9b4.gif

    2d032af35ffd6e86cfa7926c81d254d7.png

    这次 JSON 枚举远程主机上的文件做出了响应。这个URL(/tun/m//api/contents/)似乎指向提供文件元数据的服务。

    7664fb505fc3b6efb15a52b1d2560d69.png

  • 相关阅读:
    无代码开发添加数据入门教程
    HTTP请求中token和cookie 区别
    用Pycharm开发Flask框架设置debug模式、port 端口和 host 主机无效的解决办法
    elementui- Select 选择器-案例: 在v-for循环的多个下拉列表选择后需要传递对应的名字和id
    零日漏洞预防
    C++中使用递归函数
    kotlin协程CoroutineScope Dispatchers.IO launch 线程Id
    基于SpringBoot的健身房管理系统
    kafka消费者多线程开发
    XML 中的延时等待控制函数Wait
  • 原文地址:https://blog.csdn.net/OneFlow_Official/article/details/126535470