int4-inference

intel ,  transformer ,  model-compression-for-llms ,  intel-extension-for-transforme ,  int4-inference ,  int8-inference ,  cpu ,  neuralchat ,  llm-inference ,  dlsa