[Python] split di file di grandi dimensioni

David Mugnai dvd a gnx.it
Ven 4 Dic 2009 15:18:11 CET


On Fri, 2009-12-04 at 15:08 +0100, Daniele Varrazzo wrote:
[snip]
> No, non stiamo reinventando i buffer: li stiamo usando meglio.

hmm, più che meglio forse in maniera diversa (e magari più opportuna a
seconda del problema)
> 
> 24 è un limite basso, ma se il numero di file potenzialmente da scrivere è
> estremamente alto, scrivere un programma che garantisca l'uso di un numero
> controllato di file aperti mi sembra sensibile quanto scrivere un programma
> che non carichi tutto il file in memoria. Uno script che per girare ha
> bisogno che gli venga impostato ulimit mi sembra abbia dei problemi, quanto
> uno che per processare 1GB di file ha bisogno di 1GB di memoria.

se il limite è impostato ad capocchiam non vedo un problema ad
utilizzare ulimit; rileggendo una mail dell'OP, lui dice:

> In realtà i file di output che mi aspetto sono più di 1000.

che è un paio di ordini di grandezza sopra a 24 quindi è molto probabile
che una strategia per limitare i file aperti serva in ogni caso.
-------------- parte successiva --------------
Un allegato non testuale è stato rimosso....
Nome:        non disponibile
Tipo:        application/pgp-signature
Dimensione:  197 bytes
Descrizione: This is a digitally signed message part
Url:         http://lists.python.it/pipermail/python/attachments/20091204/958d45e2/attachment.pgp 


Maggiori informazioni sulla lista Python