Tag: Codificación

Una implementación de codificación para comprimir y comparar LLM ajustados por instrucciones con FP8, GPTQ y SmoothQuant Quantization usando llmcompressor

importar subproceso, sys def pip(*pkgs): subproceso.check_call() pip(“llmcompressor”, “compressed-tensors”, “transformers>=4.45”, “accelerate”, “datasets”) importar os, gc, time, json, math desde pathlib importar ruta importar antorcha desde transformadores importar AutoModelForCausalLM, AutoTokenizer desde conjuntos…

Una guía de codificación que implementa flujos de trabajo de explicabilidad SHAP con comparaciones de explicadores, enmascaradores, interacciones, deriva y modelos de caja negra

print(“\n” + “=”*72) print(“PARTE 3: Descomposición de la interacción”) print(“=”*72) inter = tree_expl.shap_interaction_values(X_te.iloc) inter_abs = np.abs(inter).media(0) diag = np.diagonal(inter_abs).copia() off = inter_abs.copia(); np.fill_diagonal(off, 0) main_share = diag.sum() / (diag.sum() +…