-
Notifications
You must be signed in to change notification settings - Fork 0
Expand file tree
/
Copy pathdocument_processor.py
More file actions
251 lines (206 loc) · 9.71 KB
/
document_processor.py
File metadata and controls
251 lines (206 loc) · 9.71 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
import os
import time
import json
from typing import Dict, Any, Optional, Tuple
import uuid
from app.config.settings import settings
from app.utils.logging_utils import get_logger
from app.utils.file_utils import (
get_file_extension,
is_allowed_image,
is_allowed_pdf,
cleanup_temp_file
)
from app.services.image_processor import ImageProcessor
from app.services.pdf_processor import PDFProcessor
from app.services.llm_service import LLMService
from app.models.document import (
DocumentType,
FileType,
DocumentMetadata,
DocumentProcessingResult,
ProcessingRequest
)
logger = get_logger(__name__)
class DocumentProcessor:
"""Service principale per il processamento dei documenti"""
def __init__(self):
"""Inizializza il servizio di processamento documenti"""
self.image_processor = ImageProcessor()
self.pdf_processor = PDFProcessor()
self.llm_service = LLMService()
logger.info("Document Processor inizializzato")
async def process_document(
self,
file_path: str,
original_filename: str,
file_size: int,
md5_hash: str,
request: Optional[ProcessingRequest] = None
) -> DocumentProcessingResult:
"""
Processa un documento e restituisce i risultati
Args:
file_path: Percorso del file
original_filename: Nome originale del file
file_size: Dimensione del file in byte
md5_hash: Hash MD5 del file
request: Richiesta di processamento (opzionale)
Returns:
Risultato del processamento del documento
"""
start_time = time.time()
try:
logger.info(f"Inizio processamento documento: {original_filename}")
# Crea richiesta se non fornita
if not request:
request = ProcessingRequest()
# Determina il tipo di file
file_extension = get_file_extension(original_filename)
if is_allowed_image(original_filename):
file_type = FileType(file_extension.lower())
result = await self._process_image(file_path, request.document_type_hint)
elif is_allowed_pdf(original_filename):
file_type = FileType.PDF
result = await self._process_pdf(file_path, request.document_type_hint)
else:
raise ValueError(f"Tipo di file non supportato: {file_extension}")
# Calcola il tempo di processamento
processing_time_ms = int((time.time() - start_time) * 1000)
# Crea i metadati
metadata = DocumentMetadata(
original_filename=original_filename,
file_type=file_type,
file_size=file_size,
pages_processed=result.get("metadata", {}).get("page_count", 1) if "metadata" in result else 1,
processing_time_ms=processing_time_ms,
md5_hash=md5_hash
)
# Crea il risultato
document_result = DocumentProcessingResult(
document_id=request.document_id,
document_type=DocumentType(result.get("document_type", "sconosciuto")),
confidence_score=result.get("confidence_score", 0.0),
metadata=metadata,
extracted_data=result.get("extracted_data", {}),
raw_text=result.get("raw_text", ""),
processing_notes=result.get("processing_notes", []),
llm_ready=True
)
logger.info(f"Processamento documento completato: {original_filename}, "
f"tipo: {document_result.document_type}, "
f"confidence: {document_result.confidence_score:.2f}, "
f"tempo: {processing_time_ms}ms")
return document_result
except Exception as e:
logger.error(f"Errore durante il processamento del documento {original_filename}: {e}")
# Calcola il tempo di processamento anche in caso di errore
processing_time_ms = int((time.time() - start_time) * 1000)
# Crea metadati minimi
metadata = DocumentMetadata(
original_filename=original_filename,
file_type=FileType(get_file_extension(original_filename).lower()),
file_size=file_size,
pages_processed=0,
processing_time_ms=processing_time_ms,
md5_hash=md5_hash
)
# Crea risultato di errore
document_result = DocumentProcessingResult(
document_id=request.document_id if request else str(uuid.uuid4()),
document_type=DocumentType.SCONOSCIUTO,
confidence_score=0.0,
metadata=metadata,
extracted_data={},
raw_text="",
processing_notes=[f"Errore durante il processamento: {str(e)}"],
llm_ready=False
)
return document_result
finally:
# Pulisci il file temporaneo
cleanup_temp_file(file_path)
async def _process_image(
self,
image_path: str,
document_type_hint: Optional[DocumentType] = None
) -> Dict[str, Any]:
"""
Processa un'immagine
Args:
image_path: Percorso dell'immagine
document_type_hint: Suggerimento sul tipo di documento
Returns:
Risultati del processamento
"""
try:
logger.info(f"Processamento immagine: {image_path}")
# Estrai testo e analisi dall'immagine
text, image_analysis = self.image_processor.process_image(image_path)
# Se il testo è troppo corto, usa direttamente Mistral Vision
if len(text.strip()) < 200:
logger.info(f"Testo OCR insufficiente ({len(text)} caratteri), uso diretto di Mistral Vision")
analysis = await self.llm_service.analyze_document_image(image_path, document_type_hint)
# Usa il testo estratto da Mistral Vision
if "raw_text" in analysis and analysis["raw_text"]:
text = analysis["raw_text"]
else:
# Analizza il testo con l'LLM
analysis = await self.llm_service.analyze_document_text(text, document_type_hint)
analysis["raw_text"] = text
# Aggiungi informazioni dall'analisi dell'immagine
analysis["image_info"] = image_analysis.get("image_info", {})
analysis["ocr_info"] = image_analysis.get("ocr_data", {})
# Aggiungi note sul processamento
processing_notes = []
if analysis.get("error"):
processing_notes.append(f"Errore nell'analisi: {analysis['error']}")
if image_analysis.get("ocr_data", {}).get("confidence", 0) < 70:
processing_notes.append("Bassa confidenza OCR, i risultati potrebbero non essere accurati")
analysis["processing_notes"] = processing_notes
logger.info(f"Processamento immagine completato: {image_path}")
return analysis
except Exception as e:
logger.error(f"Errore durante il processamento dell'immagine {image_path}: {e}")
raise
async def _process_pdf(
self,
pdf_path: str,
document_type_hint: Optional[DocumentType] = None
) -> Dict[str, Any]:
"""
Processa un PDF
Args:
pdf_path: Percorso del PDF
document_type_hint: Suggerimento sul tipo di documento
Returns:
Risultati del processamento
"""
try:
logger.info(f"Processamento PDF: {pdf_path}")
# Estrai testo e metadati dal PDF
text, pdf_info = self.pdf_processor.process_pdf(pdf_path)
# Analizza il testo con l'LLM
analysis = await self.llm_service.analyze_document_text(text, document_type_hint)
# Aggiungi informazioni dal PDF
analysis["metadata"] = pdf_info.get("metadata", {})
analysis["raw_text"] = text
# Aggiungi note sul processamento
processing_notes = []
if analysis.get("error"):
processing_notes.append(f"Errore nell'analisi: {analysis['error']}")
if pdf_info.get("error"):
processing_notes.append(f"Errore nell'estrazione PDF: {pdf_info['error']}")
if pdf_info.get("is_searchable") is False:
processing_notes.append("PDF non ricercabile, testo estratto tramite OCR")
# Aggiungi informazioni OCR
if pdf_info.get("ocr_results"):
avg_confidence = sum(r.get("confidence", 0) for r in pdf_info["ocr_results"]) / len(pdf_info["ocr_results"])
if avg_confidence < 70:
processing_notes.append(f"Bassa confidenza OCR ({avg_confidence:.2f}%), i risultati potrebbero non essere accurati")
analysis["processing_notes"] = processing_notes
logger.info(f"Processamento PDF completato: {pdf_path}")
return analysis
except Exception as e:
logger.error(f"Errore durante il processamento del PDF {pdf_path}: {e}")
raise