爬蟲新聞資料後總結重點每日匯報-ai總結篇 延續上篇,來講重點總結的部分,主要透過openai api 來做總結 tiktokenhttps://github.com/openai/tiktoken主要是用來計算送出的字數,由於爬來的新聞量大,有時有可能會超過單次api 可送出的token 數 123456789101112import tiktoken# 定義一個函數來計算輸入文字的 token 數量# 參數:# - text: 需要 2024-09-13 python #python #openai #crawler
爬蟲新聞資料後總結重點每日匯報-爬蟲篇 先上專案https://github.com/shengshengyang/news-crawler-service 起因是因為覺得新聞太多,想要透過大語言模型來做統整根分類,讓我們快速閱讀並且獲得一些建議以下是分類新聞的流程圖: graph TD A(開始) --> B(爬取鉅亨網當天新聞) B --> C{是否爬取成功?} C -- 否 2024-09-13 python #python #crawler
nvm node 版本控制器 nvm(Node Version Manager)是一個管理 Node.js 版本的工具,它允許你在同一台電腦上安裝和切換多個 Node.js 版本。 安裝特定版本的 Node.js1nvm install <version> 例如: 1nvm install 16.13.0 列出已安裝的 Node.js 版本1nvm list 1nvm ls export: 123456C: 2024-09-13 node.js #node.js #nvm
python venv 建立 建立及執行虛擬環境(venv)的步驟1. 確認已安裝 Python 3在建立虛擬環境之前,請先確認電腦中已安裝 Python 3。可以使用以下命令檢查: 1python --version 2. 建立虛擬環境Windows / Mac / Linux1python -m venv myenv 3. 啟動虛擬環境Windows:1myenv\Scripts\activate 2024-09-12 python #python
微服務與kubernetes 概述微服務架構是一種設計模式,將應用程序分解成小的、自主的服務,每個服務都負責特定的業務功能。K8s 與微服務的關係密切,因為 kubernetes 提供了一個理想的環境來運行和管理微服務。 容器化微服務通常被打包成容器,這使得它們能夠在 kubernetes 平台上輕鬆部署和管理 自動化運維kubernetes 自動化部署、滾動更新和自我修復功能,這些功能對於微服務架構的高可用性和穩定性至關重要 2024-05-23 backend #micro-services
diagrams-用code來畫架構圖 github 連結https://github.com/mingrammer/diagrams 安裝Graphviz開源的圖形可視化軟件,專門用來表示結構化數據,特別是圖和網狀結構。它由AT&T Labs Research開發,基於GNU通用公共許可證發布。 這專案需要先安裝 Graphviz才能使用 python至少3.7以上 12345678# using pip (pip3)$ 2024-05-18
k8s 基礎名詞 Pods: Kubernetes 中最基本的部署單位,它代表了在集群中運行的一組一個或多個容器。每個 Pod 都會分配到一個特定的節點(Node)上運行。 Pod 內的容器共享相同的 IP 地址、Port 範圍,並能夠彼此透過 localhost 通訊。 如果 Pod 遭到節點故障或其他原因導致失效,它不會自動重新創建。 123456789apiVersion: v1kind: Podmetad 2024-04-29 kubernetes #kubernetes #DevOps
用docker desktop在本地啟動kubernetes 得益於docker desktop已經有集成kubernetes,在mac os 或 windows都可以直接使用來建成本地端的k8s做練習 啟動設定勾選啟用後,按下方的apply & restart 啟動狀態可在側邊欄最下方看到已經啟動的k8s 啟動後確認也可以在終端機輸入指令來確認 1kubectl version 2024-04-19
travis-beanstalk 簡介travis ci 是一個雲端的 CI/CD saas 服務 使用透過在github 等啟動第三方授權即可連接,後續透過添加yaml檔來做連結 .travis.yaml123456789101112131415161718192021222324252627282930313233343536# 需要sudo權限sudo: required# 使用的服務,這裡指定了dockerservices 2024-04-11 CI/CD #aws #travis ci #CI/CD
Builder(建造者模式) 目錄 design pattern 以java 為例 特點將一個複雜對象的構建過程封裝起來,使得同樣的構建過程可以創造不同的表示,簡單講就是 把複雜的都包成api 舉例反例Person 裡面包括多個屬性,但如果其中有幾個參數是非必填,則 缺乏彈性:如果Person的某些屬性是可選的,使用這種重載構造函數的方式會導致必須創建多個構造函數來支持不同的參數組合。 可讀性差:隨著參數數量的增加,調用 2024-04-03 design pattern #java #design pattern