原创 Matplotlib調整圖例中圖形的大小

一、問題描述 在使用matplotlib畫圖的時候需要對圖例中的圖形進行放大縮寫的操作,避免圖例太小。問題如下: 二、解決方法 由於不同的對象解決方法有差異,這裏對散點圖和柱形圖進行討論。 2.1 散點圖 散點類型的圖像可以使用下面的代碼

原创 Lora的微調

背景 利用微調的方法對大模型進行微調。目前Lora是高效微調的方法之一。這裏記錄一下微調的方法和一些博客。 微調方法 Lora的方法是在模型參數外套一個殼,在論文中,作者是對注意力權重Q(K或者V)進行微調。當然也可以對其他網絡進行微調例如

原创 安裝ssh出現問題

問題 在安裝openssh的時候出現了下面的問題。 Creating config file /etc/ssh/sshd_config with new version Creating SSH2 RSA key; this may tak

原创 解決openssh無法登錄的問題

背景 在安裝完openssh之後,還是不能解決登錄的問題。報錯信息如下: IT IS POSSIBLE THAT SOMEONE IS DOING SOMETHING NASTY! Someone could be eavesdroppin

原创 matplotlib保存文件的細節

Matplotlib保存文件 參數名 參數意義 bbox_inches 去掉圖片內的空白 pad_inches 去掉圖片和文件邊界的空白 # 這個指令可以保存成沒有外邊框,沒有內邊框的圖片格式,也可以是pdf文件。

原创 Python導入問題

一、背景 在Python模塊倒入的方法中,存在兩個問題,一個是循環導入,一個是模塊導入的覆蓋。在使用過程中遇到了模塊導入覆蓋的情況,出現了以下的錯誤: TypeError: 'module' object is not callable

原创 自定義bib文件

一、使用 在使用word編寫論文時,需要使用參考論文格式,此時可以使用bib生成指定的格式,在放入文中進行使用。latex自帶了一種bib參考格式的指令: latex makebst 通過上面的指令可以通過選項進行操作生成一個dbj文件。

原创 torch使用bool類型做檢索

一、背景 在使用torch的時候,可以通過bool類型對數組進行檢索操作。傳統的list或者dict都是使用下標和關鍵字檢索。而在torch中可以使用bool類型進行檢索,它的的目標主要是以下功能: 替換torch中的某個值 二、使用

原创 Python從菱形繼承到多繼承

目錄一、菱形繼承與多繼承二、多繼承可能面臨的問題三、多繼承實現的方法3.1 類名繼承3.2 super繼承3.3 super繼承和類名繼承的性質四、總結參考 一、菱形繼承與多繼承 Python在繼承方面與Java不同,Python可以進行多

原创 GPT生成過程中的Top_p和Top_k

一、背景 GPT生成的代碼中,往往有很多需要設置的參數,例如top_p、top_k等。下面介紹一下這些參數意義和提出的原因。 二、Top_K top_k是一個經典的方法,表示從候選的K個值中選擇一個。在GPT生成的過程中也是類似的問題。選取

原创 TextAttack的使用功能

一、背景 TextAttack是弗吉尼亞大學和MIT開發的一個關於快速實現文本對抗攻擊的一個工具包。國內有一個清華開發的工具OpenAttack。但是目前比較活躍的是TextAttack,寫這篇博客的時候,TextAttack還做了更新。

原创 latex算法取消endfor輸入

一、方法 使用以下的包取消enfor,endif等輸出,使算法更加的整潔。 \usepackage[noend]{algorithmic} 二、結果展示 直接使用algorithmic 使用後 三、參考網址 tex問答網站

原创 非常離奇的BUG

一、背景 在使用cmd或者xshell鏈接遠程服務器的時候,輸入指令沒有回顯,效果如下: 這個問題困擾了很久,一直不知道什麼問題,去查詢回顯得到的答案也不是這個問題的解決方法。 二、原因 在師弟詢問了他的一個同學之後,發現了問題,原因是p

原创 einops方法

einops方法 該方法可以快速實現矩陣的快速變化。 import torch import torch.nn as nn from einops import rearrange # 快速矩陣變化 class TestAttenti

原创 einsum方法

einsum求矩陣運算 einsum是什麼 使用chatGPT解讀官方的文檔: Einsum允許使用基於Einstein求和約定的簡寫格式來計算許多常見的多維線性代數數組操作,這些操作可以表示爲一個方程式。 具體格式的細節在下面進行描述,但