Update app.py

app.py

@@ -27,36 +27,13 @@ if torch.cuda.is_available():
 else:
     logger.info("CUDA недоступен, будет использоваться CPU")
 
-# Проверяем наличие общих директорий для хранения данных
-possible_dirs = [
-    "/data",           # Стандартный путь для Spaces с подключенным диском
-    "/mnt/data",       # Альтернативный путь для подключенного диска
-    "/home/user/data", # Директория пользователя
-    "/tmp"             # Временная директория (запасной вариант)
-]
+# Используем домашнюю директорию пользователя (она всегда должна быть доступна)
+user_home = os.path.expanduser("~")
+DISK_DIR = os.path.join(user_home, "app_data")
 
-# Находим первую доступную директорию
-DISK_DIR = None
-for dir_path in possible_dirs:
-    try:
-        if not os.path.exists(dir_path):
-            os.makedirs(dir_path, exist_ok=True)
-        
-        # Проверяем, можем ли мы писать в эту директорию
-        test_file = os.path.join(dir_path, "write_test.txt")
-        with open(test_file, "w") as f:
-            f.write("test")
-        os.remove(test_file)
-        
-        DISK_DIR = dir_path
-        logger.info(f"Используем директорию для хранения: {DISK_DIR}")
-        break
-    except (OSError, PermissionError) as e:
-        logger.warning(f"Не удалось использовать директорию {dir_path}: {e}")
-
-if DISK_DIR is None:
-    DISK_DIR = "."  # Используем текущую директорию, если ничего не найдено
-    logger.warning(f"Внимание! Используем текущую директорию: {os.path.abspath(DISK_DIR)}")
+# Создаем директорию, если она не существует
+os.makedirs(DISK_DIR, exist_ok=True)
+logger.info(f"Используем директорию для хранения: {DISK_DIR}")
 
 # Настраиваем пути для сохранения моделей
 CACHE_DIR = os.path.join(DISK_DIR, "models_cache")
@@ -88,14 +65,17 @@ logger.info("Информация о дисках перед загрузкой:
 check_disk_space("/")
 check_disk_space(DISK_DIR)
 
-# Загрузка модели и токенизатора
-model_name = " KoDer123/Nerealnost_8M"
+# Загрузка модели и токенизатора (исправлен лишний пробел в имени)
+model_name = "KoDer123/Nerealnost_8M"
 
 # Глобальные переменные для модели
 model = None
 tokenizer = None
 is_model_loaded = False
 
+# Переопределяем EOS_TOKEN для случая, когда токенизатор не загружен
+DEFAULT_EOS_TOKEN = "</s>"
+
 # Функция для загрузки модели
 def load_model():
     global model, tokenizer, is_model_loaded
@@ -167,7 +147,9 @@ check_disk_space(DISK_DIR)
 
 # Определяем шаблон Q&A, как при обучении
 qa_prompt = "<s>Пользователь: {}\nАссистент: {}"
-EOS_TOKEN = tokenizer.eos_token if tokenizer.eos_token else "</s>"
+EOS_TOKEN = DEFAULT_EOS_TOKEN
+if tokenizer is not None and hasattr(tokenizer, 'eos_token') and tokenizer.eos_token:
+    EOS_TOKEN = tokenizer.eos_token
 
 def respond(
     message,
@@ -180,8 +162,8 @@ def respond(
     global model, tokenizer, is_model_loaded
     
     # Проверяем, загружена ли модель
-    if not is_model_loaded or model is None:
-        return "Модель не загружена или произошла ошибка при загрузке."
+    if not is_model_loaded or model is None or tokenizer is None:
+        return "Модель не загружена или произошла ошибка при загрузке. Проверьте имя модели 'KoDer123/Nerealnost_8M'."
     
     # Замеряем время
     start_time = time.time()
@@ -218,7 +200,11 @@ def respond(
         
         # Извлекаем только часть после "Ассистент: "
         response_start = generated_text.rfind("Ассистент: ") + len("Ассистент: ")
-        response = generated_text[response_start:].strip()
+        if response_start >= len("Ассистент: "):  # Проверяем, что "Ассистент: " найден
+            response = generated_text[response_start:].strip()
+        else:
+            # Если не найдено, возвращаем весь текст
+            response = generated_text.strip()
         
         end_time = time.time()
         generation_time = end_time - start_time
@@ -280,6 +266,7 @@ with gr.Blocks(theme=gr.themes.Soft()) as demo:
                 * **Модель**: {model_name}
                 * **Режим работы**: {"GPU" if torch.cuda.is_available() else "CPU"}
                 * **Директория для кэша**: {CACHE_DIR}
+                * **Статус загрузки**: {"Успешно" if is_model_loaded else "Ошибка"}
                 """)
     
     # Примеры вопросов