[BACK]Return to pta_import.pl CVS log [TXT][DIR] Up to [cvsweb.bsd.lv] / pta

Diff for /pta/pta_import.pl between version 1.25 and 1.32

version 1.25, 2020/11/29 14:00:50 version 1.32, 2021/06/04 13:50:06
Line 21  use Getopt::Std qw(getopts);
Line 21  use Getopt::Std qw(getopts);
   
 our ($opt_I);  our ($opt_I);
   
 my %banks = (  my %date_formats = (
     "bbva_usa"              => \&import_bbva_usa,      'MM/DD/YYYY' => 's#(\d+)/(\d+)/(\d+)#$3$1$2#',
     "capital_one_360"       => \&import_capital_one_360,      'MM/DD/YY'   => 's#(\d+)/(\d+)/(\d+)#20$3$1$2#',
     "capital_one_credit"    => \&import_capital_one_credit,      'YYYY-MM-DD' => 's#(\d+)-(\d+)-(\d+)#$1$2$3#',
     "chase_credit"          => \&import_chase_credit,      'DD.MM.YY'   => 's#(\d+)\.(\d+)\.(\d+)#20$3$2$1#',
     "etrade_ira"            => \&import_etrade_ira,  
     "optum_hsa"             => \&import_optum_hsa,  
     "sparkasse_camt"        => \&import_sparkasse_camt,  
     "wellsfargo"            => \&import_wellsfargo,  
 );  );
   
 # === SUBROUTINES  =====================================================  # === SUBROUTINES  =====================================================
 sub get_accounts_by_amount_sign ($$$) {  
         my ($amount, $account, $csv_account) = @_;  
         my ($debit, $credit);  
         if ($amount <= 0) {  
                 $amount = substr $amount, 1;  
                 $credit = $csv_account;  
                 $debit = $account;  
         } else {  
                 $debit = $csv_account;  
                 $credit = $account;  
         }  
         return ($amount, $debit, $credit);  
 }  
   
 sub get_accounts_by_csv_col ($$$$) {  
         my ($account, $csv_account, $csv_debit, $csv_credit) = @_;  
         my ($amount, $debit, $credit);  
         if ($csv_debit eq "") {  
                 $amount = $csv_credit;  
                 $credit = $account;  
                 $debit = $csv_account;  
         } else {  
                 $amount = $csv_debit;  
                 $credit = $csv_account;  
                 $debit = $account;  
         }  
         return ($amount, $debit, $credit);  
 }  
   
 sub usage () {  sub usage () {
         printf STDERR "usage: %s -I accountname csvfilename\n", $0;          printf STDERR "usage: %s -I accountname csvfilename\n", $0;
         exit 1;          exit 1;
Line 75  unless ($opt_I) {
Line 43  unless ($opt_I) {
         usage;          usage;
 }  }
 my $account_name = $opt_I;  my $account_name = $opt_I;
 $banks{$account_name} or die "unknown accountname: $account_name";  
   
 # Parse the configuration file.  # Parse the configuration file.
 my $fn = "import/" . $account_name . ".txt";  my $fn = "import/" . $account_name . ".txt";
 open my $in, '<', $fn or die "$fn: $!";  open my $in, '<', $fn or die "$fn: $!";
 my ($cost_center_field, $csv_account, $date_field, $date_format,  my ($cost_center_field, $csv_account, $date_field, $date_regex,
     $delim, $header, $quantity_field, $quote, @amount_fields,      $delim, $header, $quantity_field, $quote, $subaccount,
     @compiled, @description_fields, @ignored);      @amount_fields, @compiled, @description_fields, @ignored);
 while (<$in>) {  while (<$in>) {
         chomp;          chomp;
           s/\s+$//;
         next if /^(?:#|$)/;          next if /^(?:#|$)/;
         my $line = $_;          my $line = $_;
         if (/^ACCOUNT\s+(\S+)$/) {          if (s/^ACCOUNT\s+//) {
                 $csv_account and die "duplicate ACCOUNT line: $1";                  $csv_account and die "duplicate ACCOUNT line: $_";
                   /^(\d+)$/ or die "ACCOUNT parse error: $_";
                 $csv_account = $1;                  $csv_account = $1;
                 next;                  next;
         }          }
         if (s/^AMOUNT\s+//) {          if (s/^AMOUNT\s+//) {
                   @amount_fields and die "duplicate AMOUNT line: $_";
                 push @amount_fields, $1 - 1 while s/(\d+)\s*//;                  push @amount_fields, $1 - 1 while s/(\d+)\s*//;
                 $_ eq '' or die "trailing garbage: AMOUNT ... $_";                  $_ eq '' or die "trailing garbage: AMOUNT ... $_";
                 next;                  next;
         }          }
         if (/^COSTCENTER\s+(\d+)/) {          if (s/^COSTCENTER\s+//) {
                   $cost_center_field and
                       die "duplicate COSTCENTER line: $_";
                   /^(\d+)$/ or die "COSTCENTER parse error: $_";
                 $cost_center_field = $1 - 1;                  $cost_center_field = $1 - 1;
                 next;                  next;
         }          }
         if (/^DATE\s+(\d+)\s+(\S+)/) {          if (s/^DATE\s+//) {
                 $date_field = $1 - 1;                  $date_field || $date_regex and
                 $date_format = $2;                      die "duplicate DATE line: $_";
                   s/^(\d+)\s+(\S+)$//;
                   $date_field = $1 or
                       die "DATE date_field parse error: $_";
                   $date_field -= 1;
                   $date_regex = $date_formats{$2}
                       or die "unknown date format: $2";
                 next;                  next;
         }          }
         if (/^DELIM\s+(\S)$/) {          if (s/^DELIM\s+//) {
                 $delim and die "duplicate DELIM line: $1";                  $delim and die "duplicate DELIM line: $1";
                   /^([^|\^\$\*\+\?\(\)\[\]\{\}\\])$/ or
                       die "DELIM parse error: $_";
                 $delim = $1;                  $delim = $1;
                 next;                  next;
         }          }
         if (s/^DESCRIPTION\s+//) {          if (s/^DESCRIPTION\s+//) {
             push @description_fields, $1 - 1 while s/(\d+)\s*//;                  @description_fields and die "duplicate DESCRIPTION line: $_";
             $_ eq '' or die "trailing garbage: DESCRIPTION ... $_";                  push @description_fields, $1 - 1 while s/(\d+)\s*//;
             next;                  $_ eq '' or die "trailing garbage: DESCRIPTION ... $_";
                   next;
         }          }
         if (/^HEADER\s+(.*)$/) {          if (s/^HEADER\s+//) {
                 $header and die "duplicate HEADER line: $1";                  $header and die "duplicate HEADER line: $1";
                 $header = $1;                  $header = $_;
                 next;                  next;
         }          }
         if (/^IGNORE\s+(.*)/) {          if (s/^IGNORE\s+//) {
                 push @ignored, qr/$1/;                  push @ignored, qr/$_/;
                 next;                  next;
         }          }
         if (/^QUANTITY\s+(\d+)/) {          if (s/^QUANTITY\s+//) {
                   $quantity_field and die "duplicate QUANTITY line: $1";
                   /^(\d+)$/ or die "QUANTITY parse error: $_";
                 $quantity_field = $1 - 1;                  $quantity_field = $1 - 1;
                 next;                  next;
         }          }
         if (/^QUOTE\s+(\S)$/) {          if (s/^QUOTE\s+//) {
                 $quote and die "duplicate QUOTE line: $1";                  $quote and die "duplicate QUOTE line: $1";
                   /^([^|\^\$\*\+\?\(\)\[\]\{\}\\])$/ or
                   die "QUOTE parse error: $_";
                 $quote = $1;                  $quote = $1;
                 next;                  next;
         }          }
         $delim or die "no DELIM line in $fn";          $delim or die "no DELIM line in $fn";
         s/^(.*)$delim\s+(\d+)\s+(\S+)// or          s/^(.*)$delim\s+(\d+)\s+(\S+)\s*(\S*)// or
             die "$fn import parse error: $line";              die "$fn import parse error: $line";
         push @compiled, {          push @compiled, {
                 re => [map { qr/$_/ } split /$delim/, $1],                  re => [map { qr/$_/ } split /$delim/, $1],
                 ac => $2,                  ac => $2,
                 id => $3,                  id => $3,
                   su => $4,
         };          };
 }  }
 close $in;  close $in;
Line 152  if (@ARGV) {
Line 139  if (@ARGV) {
 }  }
 LINE: while (<STDIN>) {  LINE: while (<STDIN>) {
         chomp;          chomp;
           s/\s*$//;
         next if (/^$/);          next if (/^$/);
         foreach my $ignore (@ignored) {          foreach my $ignore (@ignored) {
                 next LINE if /$ignore/;                  next LINE if /$ignore/;
Line 165  LINE: while (<STDIN>) {
Line 153  LINE: while (<STDIN>) {
         }          }
         my $copy_line = $line;          my $copy_line = $line;
         my @fields;          my @fields;
         if ($quote) {          while ($copy_line =~ /./) {
                 push @fields, $1 while $copy_line =~ s/$quote([^$quote]*)$quote$delim?//;                  $quote && $copy_line =~ s/^$quote(.*?)$quote(?:$delim|$)//
         } else {                      or $copy_line =~ s/^(.*?)(?:$delim|$)//;
                 @fields = split /$delim/, $line;                  push @fields, $1;
         }          }
         my $matches = 0;          my $matches = 0;
         my ($account, $booking);          my ($account, $booking);
Line 182  LINE: while (<STDIN>) {
Line 170  LINE: while (<STDIN>) {
                 if ($matches) {                  if ($matches) {
                         $account = $selector->{ac};                          $account = $selector->{ac};
                         $booking = $selector->{id};                          $booking = $selector->{id};
                           $subaccount = $selector->{su};
                         last;                          last;
                 }                  }
         }          }
         $matches or die "unmatched CSV line: $line";          $matches or die "unmatched CSV line: $line";
         my $date = $fields[$date_field] or          my $date = $fields[$date_field] or
             die "date parse error: $line";              die "date parse error: $line";
         if ($date_format eq "MM/DD/YYYY") {          eval '$date =~ ' . $date_regex;
                 $date =~ s#(\d+)/(\d+)/(\d+)#$3$1$2#;  
         } elsif ($date_format eq "MM/DD/YY") {  
                 $date =~ s#(\d+)/(\d+)/(\d+)#20$3$1$2#;  
         } elsif ($date_format eq "YYYY-MM-DD") {  
                 $date =~ s#(\d+)-(\d+)-(\d+)#$1$2$3#;  
         } elsif ($date_format eq "DD.MM.YY") {  
                 $date =~ s#(\d+)\.(\d+)\.(\d+)#20$3$2$1#;  
         } else {  
                 die "unhandled date format: $line";  
         }  
         foreach my $i (@amount_fields) {          foreach my $i (@amount_fields) {
                 if (defined($fields[$i])) {                  if (defined($fields[$i])) {
                         $fields[$i] =~ s/,/./;                          $fields[$i] =~ s/,/./;
Line 206  LINE: while (<STDIN>) {
Line 185  LINE: while (<STDIN>) {
                         $fields[$i] = "-$1" if $fields[$i] =~ /^\((\d+\.\d+)\)/;                          $fields[$i] = "-$1" if $fields[$i] =~ /^\((\d+\.\d+)\)/;
                 }                  }
         }          }
         my $description = join ' ', @fields[@description_fields];          my $debit = $csv_account;
         my ($amount, $credit, $debit);          my $credit = $account;
         if ($#amount_fields) {          my $amount = $fields[$amount_fields[-1]] || -$fields[$amount_fields[0]];
                 ($amount, $debit, $credit) =          if ($amount < 0) {
                     get_accounts_by_csv_col($account,                  $amount *= -1;
                     $csv_account, $fields[$amount_fields[0]],                  $credit = $csv_account;
                     $fields[$amount_fields[1]]);                  $debit = $account;
         } else {  
                 ($amount, $debit, $credit) =  
                     get_accounts_by_amount_sign(  
                         $fields[$amount_fields[0]],  
                         $account, $csv_account);  
         }          }
         $date && $amount && $debit && $credit && $description          $amount = sprintf "%.2f", $amount;
           my $description = join ' ', @fields[@description_fields];
           defined($date) && defined($amount) && defined($debit) &&
               defined($credit) && defined($description)
             or die "import parse error: $line";              or die "import parse error: $line";
         $description =~ s/#//g;          $description =~ s/#//g;
         $description .= " [$fields[$cost_center_field]]"          $description .= " [$fields[$cost_center_field]]"
             if $cost_center_field;              if $cost_center_field;
         $description .= " quantity $fields[$quantity_field]"          $description .= " quantity $fields[$quantity_field]"
             if $quantity_field;              if $quantity_field;
           $description .= " ($subaccount)"
               if $subaccount;
   
         print "$date $booking $debit $credit $amount $description\n";          print "$date $booking $debit $credit $amount $description\n";
 }  }

Legend:
Removed from v.1.25  
changed lines
  Added in v.1.32

CVSweb