Aleksandr Maiorov commited on
Commit
c517f41
·
1 Parent(s): fd8ca34

- добавлен llama-index

Files changed (1) hide show
  1. app.py +3 -5
app.py CHANGED
@@ -74,16 +74,14 @@ llm = LlamaCPP(
74
  )
75
 
76
  memory = ChatMemoryBuffer.from_defaults(token_limit=3900)
77
- index = VectorStoreIndex()
78
  chat_engine = index.as_chat_engine(
79
- chat_mode="beast",
80
  memory=memory,
81
  llm=llm,
82
  context_propt=(
83
  "Вы - чат-бот, способный нормально взаимодействовать.\n"
84
- "Вот соответствующие документы для данного контекста:\n"
85
- "{context_str}"
86
- "\nInstruction: Используйте предыдущую историю чата или приведенный выше контекст, чтобы взаимодействовать с пользователем и помогать ему."
87
  )
88
  )
89
 
 
74
  )
75
 
76
  memory = ChatMemoryBuffer.from_defaults(token_limit=3900)
77
+ index = VectorStoreIndex.from_documents({})
78
  chat_engine = index.as_chat_engine(
79
+ chat_mode="context",
80
  memory=memory,
81
  llm=llm,
82
  context_propt=(
83
  "Вы - чат-бот, способный нормально взаимодействовать.\n"
84
+ "Используйте предыдущую историю чата или приведенный выше контекст, чтобы взаимодействовать с пользователем и помогать ему."
 
 
85
  )
86
  )
87